Искусственный интеллект в постчеловеческом контексте

Термин «artificial intelligence» (AI) ввел американский информатик Джон Маккарти в 1956 г. Актуальность подобного шага связана с успешным решением интеллектуальных проблем первыми ЭВМ, с обнаружившимся интеллектуальным соперничеством ЭВМ и человека. «Сomputer»/«вычислитель» не указывал на последнее, ИИ прямо говорил об этом.

Начальное философское осмысление ИИ в СССР не уступало зарубежным разработкам [111]. После 90-х годов ХХ в. отмечают: «отсутствие в отечественной науке серьезных наработок в философии и методологии ИИ … последняя конференция всесоюзного масштаба по проблемам философии ИИ состоялась свыше 30 лет назад» [104, с. 3]. Постепенно данная ситуация нормализуется, к примеру, с 2006 г. на базе ИФ РАН полноценно функционирует семинар «Философско-методологические проблемы ИИ».

Термин «ИИ» широко используют. Но постоянно появляются новые понятия, стремящиеся более точно выразить существо проблемы. В 1980 г. Д. Серль (Д. Сирл) вводит ныне популярные представления о «слабом и сильном ИИ», где последний – «должным образом запрограммированный компьютер … в буквальном смысле слова понимает и обладает иными когнитивными способностями» [132, с. 6]. В среде трансгуманистов предпочитают использовать понятие сверхразум/суперинтеллект (superintelligence). Простое согласие с подобными нововведениями не корректно, поскольку не дает гарантии, что ситуация с «недостаточностью ИИ» теоретически понята.

Обращение к непосредственной проблематике ИИ фиксирует огромный круг проблем и возможностей понимать ИИ в разных смыслах и планах. Фактически «ИИ» употребляют в трех смыслах: наука, технология создания и понимания интеллектуальных машин, более интеллектуальных, чем простые компьютеры; само непосредственное, интеллектуальное свойство/способность этих умных машин; сами умные машины, обладающие указанной во втором смысле ИИ способностью. «Интеллект» и «искусственный» в «ИИ» открыты к многочисленным уточнениям, в частности, по вопросам соотношения «интеллекта» и «творчества», «рационального» и «чувственного». Ключевым оказывается понимание соотношения человеческого и внечеловеческого в ИИ.

Смотря на ИИ сквозь призму естественного интеллекта, отмечаем, что последний есть самый успешный «решатель проблем». Поэтому логично, что определения ИИ берут за основу специфику человеческого интеллекта в его неразрывной связи с психикой человека (субъективной реальностью). Часто прямо указывается, что без подобного человеческому осознанию ИИ нельзя признать ИИ, сильным ИИ. Смотря на ИИ сквозь призму гипотетического внеземного интеллекта, видим, что речь в данном случае идет только об одном виде ИИ, аналогичном естественному интеллекту. Но это не означает, что присущие человеку черты должны быть у других, по крайней мере, еще двух видов ИИ. Покажем всю ситуацию в развитии, в историко-футурологическом контексте.

Согласно представлениям о постепенном становлении человека, субъективный мир людей формировался по мере возникновения сложных задач. Потенциально открытый к появлению субъективности ИИ на уровне решения человеческих задач может не воспринимать их сложными. Тем самым возможен «решатель проблем», сильный ИИ без аналога человеческого осознания, но решающий все человеческие проблемы так же или лучше, чем человек (первый вид ИИ). Проблемность для ИИ может начаться на таком уровне сложности, о котором мы даже не подозреваем. Только тогда у ИИ будет возникать какой-то аналог нашего осознания (второй вид ИИ). Далее, нужно признать, что возможен еще такой ИИ, который будет организован на принципах, которые никак не соотносятся с человеческой психикой (третий вид ИИ). Отсюда нужно говорить об ИИ не в единственном числе, а во множественном. Этот вывод дает ключ к общему пониманию ИИ, снимая потребность его дальнейших качественных уточнений и нововведений. Окончательную формулировку этого понимания ИИ целесообразно выводить в контексте широко обсуждаемого и сегодня теста Тьюринга (ТТ). Как известно, талант А. Тьюринга проявился в избавлении сложнейшего вопроса – «могут ли машины мыслить?» от ненужных и бесперспективных усложнений. Этому способствовало введение эквивалентного вопроса, может ли машина ввести человека в заблуждение при «игре в имитацию», где люди не видят с кем – человеком или компьютером – они обмениваются информацией (общаясь между собой, к примеру, с помощью почты).

Привычный вопрос – может ли ТТ «свидетельствовать о том, что машина стала мыслить» – в условиях открытой множественности ИИ оказывается некорректным, поскольку нужно спрашивать может ли ТТ быть критерием появления всех трех указанных видов ИИ? Применительно к второму виду ИИ вполне правомерна известная критика ТТ, например, на основе аргумента «китайской комнаты» Д. Сирла. Но ТТ вполне можно использовать применительно к первому и третьему виду ИИ, здесь, словами гипотезы Ньюэлла-Саймона (1976), – способность выполнять символьные вычисления достаточна для выполнения осмысленных действий.

Следует ли в этих условиях стремится оставить ТТ критерием появления ИИ? Склоняемся к мнению, что нет, поскольку ТТ слишком отягощен прошлыми обсуждениями и слишком «зациклен» на человеческой и игровой проблематике. Серьезное отношение к ИИ означает понимание того, что люди могут проиграть конкурентную борьбу ИИ. Критерием появления ИИ является сам факт замещения ИИ человека или тест замещения (ТЗ). В некоторых случаях факт такого замещения может быть статистически нагляден, например, в области замещения человека экспертными систем ИИ. Отсюда ИИ – это способность искусственных объектов решать любые проблемы, решаемые людьми, и способность конкурировать с человеком и человечеством за власть в мире и жизненное пространство.

В вопросе о возможности появления ИИ сложились противоположные позиции. Во многом они пересекаются с известным противостоянием между религией, объективным идеализмом и материализмом, реализмом. Опираясь на религиозные или объективно идеалистические представления, утверждают, что «мышление есть свойство бессмертной души человека … Бог не дал бессмертную душу никакому другому животному, ни машине. Следовательно, ни животное, ни машина не могут мыслить» [Цит. по: 153, с. 243]. Имея в виду материалистический подход к проблеме, можно считать, что положительный ответ на вопрос о способности машины мыслить «тождественен современной форме убеждения о естественном возникновении жизни и материальной основе сознания» [73, с. 295]. Сознание у ИИ, закономерно, может возникнуть в ходе усложнения деятельности ИИ. «Китайская комната» Д. Сирла открыта к трансформацию в «китайский квартал», где в результате совместной работы многих агентов (программ) «может возникнуть семантическое знание, может появиться сознание, как эмерджентное свойство» [172]. Эти противоположные позиции могут утверждаться догматично, но если их проводить корректно, это может послужить основой постнеклассического превалирования одной из них. Современные подходы к созданию ИИ объединяют в три группы: функциональную кибернетически-эвристическую (создание ИИ не привязано к человеческому способу работы с информацией), нейробионическую (создание ИИ ориентируется на определенный образец), эволюционную (создание ИИ идет через его эволюционное самостроительство). Сегодня в фокусе создания ИИ нейробионический подход, искусственные нейронные сети (ИНС). В этом контексте нужно рассмотреть все возможные аргументы за/против появления ИИ.

Традиционный компьютер действует алгоритмически, последовательно, а современной науке известно о непрерывности действия нервной системы. Р. Пенроуз настаивает, что любой компьютер (ИНС здесь не исключение) является, по сути, машиной Тьюринга [105, с. 44]. Компьютерные программы зависят от математики, где сформулирована знаменитая теорема К. Гёделя о неполноте. Поэтому ИИ невозможен. Положительный для ИИ ответ дается в плане того, что программист и ряд совместных (страхующих друг друга) машин с ИИ вполне могут справиться со всеми указанными трудностями [179].

Аргумент от сознания в многочисленных вариациях, наверное, никогда не уйдет из споров об ИИ. Выдвигают, к примеру, представление, что осознание должно быть компонентом понимания, а понимание являться неотъемлемой частью любого подлинного интеллекта. Часто приводимый здесь пример с пониманием ощущения «красного» критикуем. Достаточно просто снабдить интеллектуальную машину такой информацией о «красном», которая будет расцениваться работающим вместе с ИИ человеком как подлинное понимание «красного». Фактически, опять главным аргументом в плане сознания остается уже разъясненная ситуация того, что ТТ спорно идентифицирует ИИ.

Начиная с А. Лавлейс (1815-1852), считают, что интеллектуальные машины не способны творить, и у них отсутствует целеполагание. Но уже есть следующие сообщения: «известно, что дефект «стружка в масле» не влияет ни на один из измеряемых датчиками параметров работы авиадвигателя, вследствие чего не существует традиционных методик, способных выявлять этот дефект. Мы же столкнулись с тем, что нашей нейросети каким-то образом удавалось обнаруживать этот, обычно не поддающийся обнаружению дефект …несмотря на отсутствие какой-либо логической связи между этим дефектом и параметрами работы авиадвигателя» [188]. Основательным положительным примером на реальную способность ИИ к творчеству могут служить экспертные системы. А целеполагание будет возникать по мере усложнения ИИ.

Неизвестная сложность мозга может влиять на феномен ИИ. Согласно Р. Пенроузу: «Даже если сигналы нейронов и могут вести себя, как детерминированные в классическом смысле события, управление синаптическими связями между нейронами происходит на более глубоком уровне, т.е. там, где можно ожидать наличия существенной физической активности на границе между квантовыми и классическими процессами. … квантовая активность должна быть неким невычислимым образом связана с поддающимся вычислению процессом» [105, с. 5-6]. Критики указывают на физическую гипотетичность представленных взглядов. Также основательно звучит указание на маловероятность общей идеи Р. Пенроуза и С. Хамероффа о том, что мозг использует исходные квантовые явления для решения сложных высокоуровневых познавательных задач – больше оснований того, что всем этим занимаются эволюционно новые структуры мозга.

Использование ИНС для создания ИИ позволяет проводить параллели между ИНС и мозгом, чтобы понять, как скоро ИНС будут соотносимы с возможностями человеческого мозга. Базисом выводов является общее понимание вычислительной мощности (производительности) мозга, количественной характеристики скорости выполнения интеллектуальных операций мозгом в одну секунду. Н. Бостром (1997) следующим образом выходит на эти цифры. «Человеческий мозг содержит примерно 100 млрд нейронов. Каждый нейрон имеет около 5 тыс. синапсов, а сигналы проходят через эти синапсы с частотой около 100 Гц. Каждый сигнал, допустим, содержит 5 бит. Это соответствует 10¹⁷ ops (операций в секунду)», и и подобная мощность должна быть достигнута в интервале между 2015 и 2024 гг.» [22, с. 319]. Укажем, что эти скорости уверенно достигаются. Современные суперкомпьютеры работают на скорости 10¹⁵ или квадриллион операций в секунду. Согласно, известному рейтингу самых мощных суперкомпьютеров – «Тор 500», на ноябрь 2011 г. первым по вычислительной мощности был японский суперкомпьютер «Fujtsu», скорость его вычислений достигла 10 квадриллионов операций в секунду (10¹⁵).

Дополнительно необходимо указать на прогресс в ходе реализации трех современных проектов по созданию искусственного мозга: американского DARPA, финансируемого Пентагоном; европейского Blue Brain Project; американского C2S2, разрабатываемого IBM. Конечно, и сейчас современные исследователи адекватно оценивают свое отставание от природы (считается, что природный/естественный мозг в приеме решений превосходит современные компьютеры в 1 млн – 1 млрд раз). Но в рамках указанных проектов серьезно и ответственно заявляется о возможности выйти на аналогичные естественному мозгу искусственные устройства в 2020-2030 гг. В рамках Blue Brain Project сообщается о том, что к 2010 г. ученые могли моделировать достаточно правдоподобную мозговую нейронную ткань из 1 млн нейронов. С помощью новейших суперкомпьютеров ближайшего времени там планируют создать искусственную модель из порядка 100 млн нейронов. Планируемые к 2018 г. мощности новых суперкомпьютеров позволят им создать модель из порядка 100 млрд, т.е. воспроизвести в количественном плане число естественных нейронов реального человеческого мозга. Большой интерес специалистов вызвала информация от разработчиков американского проекта C2S2 о том, что они выходят, используя многочисленные данные о строении обезьяньего мозга, на возможную структуру мозга обезьяны, которая может иметь прямое отношение к структуре человеческого мозга. Также нельзя не упомянуть о тех фантастических, перспективных методиках, которые сейчас активно используют нейрофизиологи. К примеру, с помощью специально модифицированных нейронных клеток лабораторных крыс исследователи получили возможность видеть, как именно протекает мозговая активность подопытных животных, какие группы нейронов, когда, как, в связи с чем активизируются [8].

На основе всех этих данных, предполагают (Н. Бостром, Г. Моравик, В. Виндж, Р. Курцейль и др.), что ИИ может появиться в 2030-2050 гг. Скептики указывают на то, что, с тех пор как появились ЭВМ, постоянно ждут и заявляют о скором появлении ИИ, но всегда оказывается, что «реализованные технологии ИИ перестают быть технологиями ИИ». Наверное, самое известное здесь предположение Г. Саймона и А. Ньюэлла о том, что их знаменитый «Универсальный решатель задач» будет признан первым ИИ. В целом, нам кажется, что более весомы аргументы за возможность скорого появления ИИ.

Искусственный интеллект может быть создан в рамках специализированных, целенаправленных усилий и проектов. Но это не единственный путь. К примеру, В. Виндж упоминает следующие возможности: «компьютеры обретут «сознание», и возникнет сверхчеловеческий интеллект; крупные компьютерные сети (и их объединенные пользователи) могут «осознать себя» как сверхчеловеческие разумные сущности; машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим; биология может обеспечить нас средствами улучшения естественного человеческого интеллекта» [27]. Кстати, сам В. Виндж считает, что наиболее вероятный путь к созданию ИИ лежит на пути сращивания мышления, психики человека с возможностями машины.

Часть специалистов положительно относятся к возможности появления ИИ. В 1960-е гг. на вопрос об опасности ИИ А. Колмогоров отвечал: «нужно стремиться этот глупый и бессмысленный страх перед имитирующими нас автоматами заменить огромным чувством удовлетворенности тем фактом, что такие сложные и прекрасные вещи могут быть созданы людьми» [73, с. 312]. В рамках трансгуманизма появление сильного ИИ приветствуется. Не пугает ситуация Р. Курцвейля: «Я не считаю смертельную схватку враждебного ИИ с человеком, нашедшую отражение в «Матрице», неизбежным сценарием развития событий. Небиологическая часть нашего мышления будет по-прежнему оставаться человеческой, потому что она будет производной от человеческого» [77, с. 233].

Критики могут указать, что представления о сосуществовании в человеке двух форм интеллекта – традиционного, естественного, биологического и искусственного – вряд ли соотносятся с будущей истинной. Сомнительна надежная связь естественного и искусственного без конкурентной, болезненной, трагической борьбы между ними. Наличие подобной связи объективно приведет к полному поглощению и исчезновению специфики биологической части мышления (души): биологическая часть, по определению, развивается медленно, а искусственная – очень быстро. (Примером к данной ситуации может служить «поглощение» провинциализма столичностью у О. де Бальзака в «Утраченных иллюзиях» или у Т. Драйзера в «Американской трагедии».)

Сам факт появления ИИ будет означать, что люди, в конечном счете, будут зависимы от знающего и умеющего больше их ИИ. В целом, это ведет к зависимости людей от ИИ. Возможно, что наши известные недостатки послужат задачей, которую ИИ будет решать в духе повести «Трудно быть богом» А. и Б. Стругацких. Ощущаемое в данных случаях определенное человеческое раздражение, даже отторжение не должно заслонять факт того, что здесь описывается, наверное, один из самых лучших сценариев для людей в условиях появившегося ИИ. В других, возможно более реалистичных сценариях людям вообще нет места в мире после появления ИИ.

Красной нитью известных статей о сингулярности В. Винджа идет пессимистическое осмысление темы появления ИИ, который не будет «инструментом людей, как люди не стали «инструментом шимпанзе». Вряд ли возможен контроль над сильным сверхразумом. Пресловутые законы робототехники и им подобны системы не смогут оставить ИИ в полном подчинении людей. Среди возможных последствий власти ИИ может быть вымирание большинства людей, «правительство может решить, что простые граждане больше не нужны». В. Виндж указывает на то, чтобы мы точно понимали новые реалии после появления ИИ, – «люди станут низшими созданиями, аналогично тому, как собаки были и есть для нас». Если наиболее оптимальный путь к появлению ИИ – путь объединения человека и машины, то В. Виндж подозревает появление «довольно зловещей элиты». В последней статье о сингулярности В. Виндж рассуждает о том, что возможно есть некое «Золотое мегаправило Добра», благодаря которому участь людей под властью ИИ не будет такой уж трагической. В таких случаях часто пишут, что «надежда умирает последней».

Много пессимизма и у Н. Бострома. В его рассуждениях интересно обратить внимание на убеждение в том, что, несмотря на предполагаемые очевидные негативные следствия для людей от появления ИИ, последний, в случае своей принципиальной возможности, появится: «Если найдется способ гарантировать, что сверхчеловеческий ИИ будет подчиняться людям, то такой интеллект будет создан. Если нет возможности это гарантировать, тем не менее, есть вероятность, что он все равно будет создан» [22, с. 338]. Основой доказательства этого Н. Бостром кладет экономическую целесообразность. Искусственный интеллект будет создан, поскольку он обеспечивает людям конкурентные преимущества на рынке. В целом, соглашаясь с подобным сильнейшим стимулом, отметим и другие причины возможного появления ИИ.

Возможно, что появление ИИ есть объективная форма завершения развития по известной «технологии» «диалектики раба и господина», согласно которой господин, чтобы почувствовать себя господином, должен освободить себя от материального труда, заставив трудиться раба. В принципе, это и происходит с человечеством в плане материального производства, когда пытаются заставить работать либо гастарбайтеров, либо машины. В идеале и в исторической перспективе, техника – есть способ человека быть и чувствовать себя господином или получать без труда материальные блага, необходимые для жизни. Интеллектуальный труд – не менее тяжелое занятие, чем физический труд, особенно, если мы имеем в виду получение нового знания. В этом плане в отношении к ИИ человечество воспроизводит свое отношение к материальному производству. Но, конечно, общий результат тут должен быть другим.

Вполне можно помыслить ситуацию, когда постепенно люди будут привлекать становящийся ИИ к решению своих проблем. В принципе, гарантировано благожелательный к людям ИИ есть форма реализации идеального управляющего (философа) по Платону. Подобный ИИ, по определению, очень много знает, профессионал, лишен пристрастий, семьи, собственности.

В заключение напомним о взглядах А. Азимова, который был одним из первых в ХХ в., кто считал, что роботы не являются априорной угрозой для человека и человечества. В 40-х годах ХХ в. А. Азимов сформулировал свои знаменитые законы робототехники: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам». В 80-е годы ХХ в. А. Азимов добавил к ним нулевой закон: «Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества». Но в его рассказах о роботах последние часто выглядят лучше людей и находят все новые и новые поводы и возможности, чтобы сменить людей. В рассказе «Мечты роботов» роботы мечтают заменить людей; в рассказе «Кэр» робот научился лучше своего хозяина писать детективные истории; в рассказе «Братишка» женщина спасает из огня не своего биологического сына, а сына-робота, поскольку он более полно и глубоко соотносится с предполагаемым поведением/ролью сына. Указанная двойственность присутствует у А. Азимова и в его интеллектуальных эссе, посвященных роботам. С одной стороны, «Вполне возможно, уже пора нас заменить?» С другой – «Соперничество или замена будут здесь совершенно ни при чем, два разума станут работать вместе, добиваясь более значимых результатов, чем если бы они действовали каждый по себе в соответствие со своей природой» [2, с. 779-780, 814].