Уоррен Маккаллок – основоположник теории нейронных сетей

 

Уоррен Стургис Маккаллок (Warren Sturgis McCulloch) –  американский нейропсихолог, нейрофизиолог, теоретик одного из основных направлений ИИ – искусственных нейронных сетей, один из "отцов" кибернетики [1 – 3].

Родился 16 ноября 1898 г. в г. Оранж, штат Нью-Джерси (США).

Маккаллок изучал теологию, философию и математическую физику в Гаверфордском колледже и Йельском университете, получив в 1921 г. степень бакалавра (В. А.). Уже через 2 года, в 1923 г., после службы офицером на Военно-морском флоте, он получил степень магистра искусств (М. А.) в Колумбийском университете, защитив диссертацию по экспериментальной эстетике.

Изучая психологию, Маккаллок пришел к выводу, что господствующие в этой науке и конкурирующие между собой три различных направления – бихевиористкое (поведенческое), психоаналитическое и интроспективное (т.е. основанное на самонаблюдении) должны быть заменены единой нейрофизиологической теорией человеческого разума. На Маккаллока произвел большое впечатление вышедший ещё в 1910 г. фундаментальный труд английских логиков Бертрана Рассела и Альберта Уайтхеда "Принципы математики" и, размышляя о том, что правильное понимание психологии может быть получено только на формальной основе, путем представления мыслительных умозаключений в виде некоторых логических предложений, он принял для себя решение о том, что начинать работу над построением формальной теории разума необходимо с эмпирического изучения нервной системы. Он продолжил свои исследования и в 1927 г. получил степень доктора медицины в области психиатрии и психологии мозга в Колумбийском университете.

Для того чтобы глубже изучить на практике нейрофозиологические причины умственных расстройств, Маккаллок в течение длительного времени обучался в интернатуре – с 1928 г. по 1930 г. в больнице Беллевью и с 1930 г. по 1932 г. в государственной больнице Рокланд. После этого он перешел в Йельскую медицинскую школу, где занимался изучением структурных свойств нервной деятельности и исследованиями электрической активности сенсорных и моторных полей коры головного мозга, проводя многочисленные эксперименты на животных. И наконец, в 1940 г. переехал в Чикаго, чтобы принять должности профессора психиатрии и клинического профессора психологии и возглавить новую исследовательскую лабораторию в Нейропсихиатрическом институте Медицинской школы Иллинойского университета.

Там Маккаллок встретил двух студентов – Джерома Леттвина (Gerome Lettvin) и Уолтера Питтса (Walter Pitts), которые стали его ближайшими коллегами, сотрудниками и друзьями. Леттвин был студентом-медиком, интересующимся применением математики в биологии и электрическими свойствами мозга. Питтс был блестящим математиком, который никогда не заканчивал высшего учебного заведения и не обучался в колледже, но самостоятельно изучил логику и математику, читал на многих языках, включая греческий и латынь [3]. В возрасте 12 лет он провел 3 дня в библиотеке, читая "Принципы математики" Б. Рассела и А. Уайтхеда, после чего принял твердое решение стать логиком. В возрасте 14 лет бежал из дома, чтобы прослушать курс лекций приглашенного профессора (g uest-professor) Бертрана Рассела в Чикагском университете, не регистрируясь при этом в качестве студента. Рассел порекомендовал ему посещать Венский кружок по логике в Чикагском университете под руководством известного философа и математика Рудольфа Карнапа. В 1941 г. 18-летний Питтс начал работать с Маккаллоком над проблемой математического моделирования человеческого мозга, конечной целью которого было показать, как нейроны в мозге могут воспроизводить сложные логические выражения.

В 1942 г. в Нью-Йорке состоялась научная конференция под названием "Семинар по проблеме церебрального торможения" " Cerebral Inhibition Meeting "), одним из участников которой был Уоррен Маккаллок. На этой конференции он услышал доклад Артура Розенблютта (Artur Rosenblutt), одного из ближайших соратников Норберта Винера, работавшего в Массачусетском технологическом институте (МТИ), посвященный механизмам обратной связи в биологии. В своем докладе, выступая от имени Винера и Джона фон Неймана, Розенблютт предложил создать группу, объединяющую специалистов различного профиля – инженеров, биологов, нейрофизиологов, антропологов, психологов, для проведения совместных исследований в рамках вновь нарождающейся науки об управлении в живой и неживой природе, которой спустя несколько лет Норберт Винер даст новое имя "кибернетика". Высказанные на конференции в Нью-Йорке идеи оказались во многом созвучны собственным идеям Маккаллока.

В 1943 г. Маккаллок и Питтс на основе результатов своих исследований опубликовали совместную статью "Логическое исчисление идей, относящихся к нервной деятельности" [4]. Эта статья, по общему признанию, считается первой работой, относящейся к искусственному интеллекту. В ней они показали, что соответствующим образом сконфигурированная сеть из математически идеализированных формальных нейронов может воспроизвести любое правильно построенное логическое предложение и вычислить любую функцию, представимую в их логическом исчислении. Более того, любая такая сеть могла моделировать "запоминание" её выходных сигналов, если их завести в качестве обратной связи на входы сети. Маккаллок и Питтс предположили, что подобная сеть может обучаться, распознавать образы, обобщать, т.е. она обладает всеми чертами интеллекта.

Будучи математически идеализированы, формальные нейроны Маккаллока-Питтса позволяли моделировать такие известные на тот момент основные свойства биологических нейронов, как задержка синаптической передачи нервных импульсов, аксонная проводимость, возбуждение и торможение нейронов. Их нейроны могли находиться в одном из 2-х состояний "все – или ничего"(возбуждено или не возбуждено), что хорошо согласовывалось с бинарными переменными "истина – ложь" булевой логики.

В статье 1943 г. Питтс использовал почти недоступную для понимания нотацию своего учителя Карнапа. В целом, Маккаллок и Питтс доказали, что любой блок управления с конечным числом состояний для машины Тьюринга может быть замещен сетью из множества формальных нейронов. Таким образом, можно сказать, что Тьюринг обеспечил "психологию вычислимого", а Маккаллок и Питтс "физиологию вычислимого" [5].

Один из крупнейших ученых 20-го века Джон фон Нейман в своей работе (1948 г.), содержащей набросок общей теории автоматов, писал: "Часто можно было слышать разговоры о том, что деятельность и функции нервной системы человека настолько сложны, что никакой обычный механизм не может их выполнить. Пытались указать специфические функции, которые, по самой своей природе, налагают это ограничение. Делались также попытки доказать, что такого рода специфические функции, полностью описанные логически, недоступны механической нейронной реализации. Результат Маккаллока-Питтса кладет всему этому конец. Он доказывает, что всё, что можно описать исчерпывающим и однозначным образом, реализуемо с помощью соответствующей нейронной сети".

После оценок фон Нейманом результатов Маккаллока-Питтса, их теоремы стали рассматриваться как математическое доказательство возможности передачи машинам любых функций, выполняемых нервной системой, и в частности функций интеллекта.

Как справедливо заметил П. К. Анохин, известный советский физиолог, создатель теории функциональных систем [6], "успех Маккаллока в создании искусственной нейронной сети объясняется тем, что он наиболее четко выделил некоторые характерные логические черты мозговой деятельности и использовал их для конструкции распознающего и "мыслящего" устройства. Благодаря этим исследованиям проблема искусственного интеллекта стала разрабатываться именно нейрокибернетиками, а не нейрофизиологами. Последние продолжали оставаться на позициях классической нейрофозиологии с господствующей в ней "рефлекторной" манерой мышления, не дающей возможности понять решающие свойства, характерные именно для интеллектуальной деятельности".

В 1947 г. Маккаллок и Питтс написали ещё одну важную статью "Как мы знаем обобщения: Восприятие слуховых и визуальных форм" [7]. Эта статья намечала основы теории того, как искусственная нейронная сеть может выполнять вид абстракции или статистической индукции. Т.е. она могла получить представление общего понятия, такого как "яблоко", рассматривая много примеров конкретных яблок. Эта идея легла в основу использования нейронных сетей в качестве моделей для обучения обобщающих правил на конкретных примерах, а также в качестве моделей сенсорного восприятия в задачах распознавания образов и классификации.

Перечисленные выше фундаментальные результаты легли в основу нового научного направления – кибернетики, а Маккаллок стал одним из её главных лидеров. С 1946 г. по 1953 г. он являлся почетным председателем всех 10-ти междисциплинарных конференций "Кольцевые причинно-следственные механизмы и механизмы обратной связи в биологических и социальных системах" (" Circular Causal and Feedback Mechanisms in Biological and Social Systems "), организованных при участии членов группы кибернетиков, неофициально созданной в 1942 г. на конференции в Нью-Йорке. Одним из активных участников этих конференций был "отец кибернетики", профессор математики МТИ Норберт Винер (Norbert Wiener).

В 1952 г. Маккаллок переехал в Исследовательскую лабораторию электроники МТИ, чтобы продолжить свои исследования, работая совместно с Н. Винером. К сожалению, уже к концу года эти два великих человека по различным причинам (слухи, личные амбиции) разошлись, и Винер уже и слышать не хотел не только про Маккаллока, но и про всех так или иначе связанных с ним людей (к несчастью, в их число вошел и Уолтер Питтс). Несмотря на это, Маккаллок оставался в МТИ до конца своей карьеры, и в течение этого времени многие талантливые студенты приезжали в его лабораторию изучать математические модели биологических и искусственных нейронов. В числе этих студентов были будущие светила компьютерной математики и ИИ – Бенуа Мандельброт (создатель теории фракталов), Мануэль Блюм, Стюарт Кауфман, Марвин Мински и Сеймур Пейперт.

Разрыв с Маккаллоком обернулся настоящей трагедией для Питтса, который с 1943 г. тесно работал с Н. Винером (в Бостоне) и был его студентом-стипендиатом. С 1952 г. (по рекомендации Дж. Леттвина) по 1969 г. Питтс работал в Исследовательской лаборатории МТИ. За ним ходила слава эксцентричного гения − "Если Вы зададите ему вопрос, он вернется к Вам с целым учебником". Он отказывался от всех предложений, степеней и официальных должностей в МТИ – не хотел ставить свою подпись, не хотел быть публичным. После разрыва Винера с Маккаллоком он впал в состояние "когнитивного суицида". Сжег свою рукопись по трехмерным нейронным сетям и потерял интерес к работе. Умер в 1969 г. в возрасте 46 лет от цирроза печени [3].

Исследования, проводимые самим Маккаллоком в период с начала 1950-х гг, значительно отклонились от основного русла работ по ИИ. Несмотря на то, что его работы сформировали базис теории нейронных сетей как одного из основных направлений ИИ, он весьма скептически относился ко многим проектам в области ИИ, связанным с разработкой компьютерных программ, способных играть в шашки или решать простейшие логические задачи. Он искренне считал, что подобные усилия направлены на создание игрушек и монстров, а не на лучшее понимание интеллектуальной деятельности как результата работы мозга.

В значительной степени, разочарование Маккаллока было вызвано статьей Джона фон Неймана "Общая и логическая теория автоматов", опубликованной им в 1951 г. Эта статья была адресована непосредственно Маккаллоку и Питтсу и содержала ряд возражений относительно их статьи 1943 г., претендующей на построение теории деятельности мозга. В статье фон Неймана содержались основы математической теории автоматов, в которой искусственные нейроны рассматривались как частный случай логических автоматов. Проблема, высвеченная фон Нейманом, заключалась в том, что логическая сеть может представлять только те понятия, которые были полно и точно описаны, тогда как большинство наших идей и знаний не могут быть описаны подобным образом. Что ещё хуже, если бы их можно было описать, это потребовало бы больше битов информации, чем число атомов во Вселенной, чтобы представить их целиком. Таким образом, просто демонстрация того, что некоторая ограниченная область умственного поведения может быть полно и точно описана, как это делалось в большинстве проектов ИИ, не давала ответа на этот фундаментальный вопрос. Озабоченность Маккаллока этой проблемой привела его к исследованиям в области многозначной логики, логики предикатов высших порядков, вероятностной логики [2].

В 1960-е гг. Маккаллок явился свидетелем "нейробума", связанного с интенсивным развитием исследований в области нейронных сетей, и последующего за ним начала временного спада интереса к нейронным сетям. Последний был вызван во многом публикацией в 1969 г. книги М. Мински и С. Пейперта "Персептроны" (" Perceptrons "), содержащей аргументированную критику возможностей нейронных сетей (в то время, однослойных) для решения широкого круга прикладных задач. Со своей стороны, Маккаллок был сильно впечатлен работой, которая привела к появлению этой книги, и надеялся, что это отобьет охоту у многих "шарлатанов", спекулирующих на проблеме нейронных сетей. Он был убеждён, что нейронные сети могут объяснить лишь некоторые процессы сенсорного восприятия, но никак не механизмы мышления в целом.

В 1965 г. Маккаллок опубликовал книгу "Воплощения разума" (" Embodiments of Mind ")[8], предисловие к которой написал уже известный к тому времени математик и специалист в области ИИ Сеймур Пейперт. В этой книге собраны 20 эссе (ранее опубликованных им статей и прочитанных лекций), тематика которых соприкасается с философией, нейрологией и психологией. Все эти материалы объединены общей целью, к достижению которой Маккаллок стремился 30 лет − "понять, как работает наш мозг". О содержании книги, помимо уже упомянутых выше 2-х совместных статей с Питтсом 1943 г. и 1947 г., говорят заголовки таких включенных в неё более поздних публикаций Маккаллока, как:

· " What is a number that a man may know it, and a man, that he may know a number? " ("Что это за число, которое может знать человек, и что это за человек, который может знать число? ");

· " Why the mind is in the head? " ("Почему разум находится в голове? ");

· " What the frog’s eye tells the frog’s mind? " ("Что глаз лягушки сообщает её мозгу? ") – совместно с Дж. Леттвиным, Х. Матурана и У. Питтсом;

· " Machines that think and want " ("Машины, которые думают и хотят").

В последней части книги "Воплощения разума" приведена подборка поэм и сонетов, написанных Маккаллоком (он был неплохим поэтом-любителем).

Разочаровавшись в областях исследований, которые он сам инициировал, Маккаллок провел остаток карьеры в поисках нейрологической теории сознания. Его попытки включали в себя детальные исследования ретикулярного (сетчатого) строения ствола мозга – той части мозга, которая отвечает за выполнение большинства жизненно важных функций, таких как дыхание и контроль метаболических процессов. Он верил, что сознание имеет отношение к способности организма быстро переключаться между малым количеством основных режимов взаимодействия с внешним миром, таких как: есть, пить, спать и т.д. Он полагал, что одна специализированная субструктура мозга может наложить запрет на управление со стороны других, когда её функции становятся особо важными с точки зрения выживания организма, как, например, глотание автоматически перекрывает дыхание, чтобы предотвратить удушение, и т.п.

Часть работ, связанных с надежностью нервной системы и избыточностью команд – потенциалов в ретикулярной структуре ствола головного мозга, дошли до публикаций; другие, связанные с поиском логики триадных отношений, − нет. После смерти Маккаллока   (24 сентября 1969 г. в возрасте 70 лет) его жена Рук предприняла попытку издать труды мужа. Это 4 тома, которые включают не только его собственные публикации, но и публикации его сотрудников, в которые он внес существенный вклад.

Заслуги Маккаллока были высоко оценены при его жизни. Являясь одним из основателей в 1964 г. Американского общества кибернетики (American Society for Cybernetics), в 1967−1968 г.г. он избирался его президентом. С 1968 г. Американское общество кибернетики присуждает ежегодно две самые главные награды – Медали Норберта Винера и Маккаллока за выдающийся вклад в развитие кибернетики. В 1968 г. Медаль Н. Винера была присуждена самому Маккаллоку. Среди других лиц, удостоенных подобной награды, можно отметить таких видных учёных, как Стефен Гроссберг (1969), Стаффорд Бир (1970), Наталья Бехтерева (1972). В последние годы Медаль Маккаллока вручается исключительно молодым ученым, начинающим свою карьеру и уже зарекомендовавшим себя многообещающими результатами в области кибернетики и смежных отраслей.

 

 

Использованные источники

 

1*. Уоррен Маккаллок [Электронный ресурс]. – Режим доступа: http://ru.wikipedia.org/wiki/Уоррен_Маккаллок.

2*. Warren McCulloch / Peter M. Asaro – [Электронный ресурс]. – Режим доступа: http://www.peterasaro.org/writing/McCulloch.html.

3*. Walter Pitts [Электронный ресурс]. – Режим доступа: http:// en.wikipedia.org/wiki/Walter_Pitts.

4. McCulloch W. S., Pitts W. A logical calculus of the ideas immanent in nervous activity, Bull. Math. Biophys. – 5. – 1943. – P. 115−133 (русск. перевод: У. Маккаллок, В. Питтс. Логическое исчисление идей, относящихся к нервной активности // Нейрокомпьютер. − №  3-4. – 1992. – С. 40-53; см. также: Нейронные сети: история развития теории /под общ. ред. проф. А. И. Галушкина, акад. Я.З. Цыпкина. – М.: ИПРЖР. – 2001 (Нейрокомпьютеры и их применение. Кн. 5. – С. 5–22). 

5. Arbib M. Warren McCulloch’s search for the logic of the nervous system  [Электронный ресурс]. – Режим доступа: http: //muse.jhu. edu/journals/perspectives_in_biology_and_medicine/V043/43/2arbib.html.

6.   Анохин П. К. Философский смысл проблемы естественного и искусственного интеллекта // Вопросы философии. – № 6. 1973. – С. 83 – 97 [Электронный ресурс]. – Режим доступа: http: //www.rtni2003/narod.ru/Papers/PKAnokhin.pdf.                          

7. McCulloch W. S., Pitts W. How we know universals: The perception of auditory and visual forms, Bull. of Math. Biophys. – № 9. – 1947. – P. 127-147.

8. McCulloch W. S. Embodiments of Mind. The MIT Press. – Cambridge, Mass., 1965.


Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:  



double arrow
Сейчас читают про: