Обдумывая последствия

Без сомнения, достижения в области искусственного интеллекта должны принести огромную пользу человечеству, и можно легко увлечься энтузиазмом, вызванным этими потенциальными преимуществами. Но в будущем маячат и вполне реальные угрозы, последствия которых могут быть настолько же разрушительны, насколько благотворны преимущества. Различие обычно заключается в точке зрения или положении людей в обществе — то, что для одного человека является прибылью, для другого может быть потерей. Следовательно, необходимо взглянуть на развивающиеся технологии и с альтернативных точек зрения.

Некоторые считают продвижение технологий подарком человечеству — способом избавления людей от скучных, устаревших задач и открытием двери в приятную жизнь. Но для других те же достижения — это проклятие, лишающее людей работы и источника доходов в пользу тех, кто обладает властью. Об этом часто говорил увлеченный гуманист Махатма Ганди, главный вдохновитель Индии на борьбу за освобождение от власти Британии. Он утверждал, что Индия получит больше преимуществ от замены больших текстильных фабрик на прялки в домах сельских жителей. Таким образом, считал он, централизованное массовое производство, дающее работу только нескольким людям, могло быть замещено распределенной системой массового производства, выгодной для множества рабочих.

Корни множества известных революций лежат в несоразмерном распределении богатств и прав. Если современные развивающиеся технологии смогут еще более укрепить это неравенство, это приведет к катастрофическим последствиям.

Однако последствия создания все большего количества интеллектуальных машин не столь явны, они лежат глубже, чем последствия, связанные с противостоянием различных слоев общества. Результаты ударяют по самому сердцу представления человечества о себе. В девятнадцатом веке общество было приведено в смятение эволюционной теорией Чарльза Дарвина и мыслью, что человечество могло произойти от малых жизненных форм. Какой же будет реакция общества, если оно столкнется с атакой машин, умственные способности которых в состоянии бросить вызов человеческому разуму?

Раньше технология развивалась медленно, оставляя достаточно времени для сохранения образа человечества о себе, постепенно изменяя наши понятия об интеллекте. В каком-то смысле мы привыкли определять интеллект как «то, чего машины делать не умеют». Наши древние предки сочли бы, что механические устройства девятнадцатого века обладают сверхинтеллектом, но сегодня мы уверены, что эти машины не демонстрируют даже подобия разума. Но как будет реагировать человечество, если машины всерьез бросят вызов человеческому интеллекту или, что более вероятно, если способности машин будут развиваться быстрее, чем наша возможность адаптироваться к ним?

Вы можете возразить, что подобные вопросы граничат с научной фантастикой, а не с вычислительной техникой. Однако совсем недавно многие отметали вопрос «Как будет реагировать человечество, если компьютеры захватят власть в обществе?» с такой же аргументацией — «Это никогда не произойдет». Но со многих точек зрения этот день уже пришел. Если компьютеризированная база данных выдаст ошибочную информацию о вашей низкой кредитоспособности, неверные данные о преступлении или о превышении чекового счета, кому поверят — утверждению компьютера или вашей клятве в невиновности? Если сбойная навигационная система покажет, что скрытая туманом посадочная полоса находится совсем в другом месте, куда приземлится самолет? Если машина используется для предсказания реакции общества на различные политические решения, какое решение в итоге примет политик? Кто (или что) несет в конечном счете ответственность? Не подчинены ли мы уже машинам? Изменится ли наша оценка текущей ситуации от того, будем ли мы считать, что машины, влияющие на нашу жизнь, делают разумные выводы или просто воспроизводят запрограммированные ответы, даже если результат в обоих случаях одинаков?