В лабораторных условиях этот процесс изучается на кроликах, а назойливый солнечный свет заменяется небольшой струей воздуха, воздействующей на глаза (достаточно раздражающей, чтобы кролик захотел ее избежать).После нескольких попыток воспроизведения звука (напримеркороткого всплеска чистого тона) и последующего за ним небольшого нагнетания воздуха кролик в конце концов научится закрывать глаза сразу же, как только услышит этот звук. Если дать животному новый звук (например, хлопок), который не сопровождался воздушной затяжкой, оно не будет моргать. Таким образом, обучение морганию глаз превращается в простую задачу классификации: кролик должен решить, является ли услышанный им звук признаком приближающейся воздушной затяжки (в этом случае глаза должны закрыться) или это нейтральный звук (в этом случае они могут оставаться открытыми). Если нарушить работу мозжечка, кролики не смогут научиться решать эту задачу.
Клетки Пуркинье способны закрывать глаза. Точнее, снижение их обычно высокого темпа стрельбы приведет к тому, что через связи, которые клетки Пуркинье посылают из этой области, глаза закроются. Исходя из этой анатомии, Альбус видел их место в качестве считывающего устройства - то есть они указывают на результат классификации.
Перцептрон обучается с помощью супервизии: ему нужны входы и метки для этих входов, чтобы понять, когда он ошибся. Альбус увидел эти две функции в двух разных типах связей на клетках Пуркинье. Гранулезные клетки передают сенсорные сигналы; в частности, разные гранулезные клетки срабатывают в зависимости от того, какой звук воспроизводится. Волокна восхождения сообщают мозжечку о воздушной затяжке; они срабатывают, когда ощущается раздражение. Важно, что это означает, что волокна лазания сигнализируют об ошибке. Они указывают на то, что животное совершило ошибку, не закрыв глаза, когда должно было.
Чтобы предотвратить эту ошибку, связи между гранулярными клетками и клетками Пуркинье должны измениться. В частности, Альбус предполагал, что все клетки-гранулы, которые были активны до того, как активизировалось волокно восхождения (то есть до ошибки), должны ослабить свою связь с клеткой Пуркинье. Таким образом, в следующий раз, когда эти гранулезные клетки сработают -то есть в следующий раз, когда будет воспроизведен тот же звук, - они не вызовут срабатывания клеток Пуркинье. И этот спад в работе клеток Пуркинье приведет к закрытию глаз. Благодаря такому изменению силы связи животное учится на своих прошлых ошибках и избегает будущих ударов воздухом по глазам.
Таким образом, клетка Пуркинье действует как президент, которого консультирует кабинет советников из клеток гранул. Сначала клетка Пуркинье прислушивается ко всем из них. Но если становится ясно, что некоторые из них дают плохие советы - то есть за их советами следуют негативные новости, доставляемые по восходящему волокну, - их влияние на клетку Пуркинье ослабевает. И в будущем клетка Пуркинье будет вести себя лучше. Этот процесс напрямую отражает правило обучения перцептрона.
Когда в 1971 году Альбус предложил такое сопоставление между перцептроном и мозжечком, его предсказание о том, как должны измениться связи между клетками гранулезы и клетками Пуркинье, было всего лишь предсказанием. Никто не наблюдал непосредственно такого рода обучение в мозжечке. Но к середине 1980-х годов накопились доказательства в пользу Альбуса. Стало ясно, что сила связи между клеткой гранулы и клеткой Пуркинье действительно уменьшается после ошибки. Были даже раскрыты конкретные молекулярные механизмы этого процесса. Теперь мы знаем, что входные сигналы гранулезных клеток вызываютответную реакциюрецептора вмембране клетки Пуркинье, эффективно отмечая, какие входные сигналы гранулезных клеток были активны в данный момент. Если сигнал от лазающего волокна поступает позже (во время воздушной затяжки), он вызывает приток кальция в клетку Пуркинье. Присутствие этого кальция сигнализирует всем помеченным связям о снижении их силы. У пациентов с синдромом хрупкой Х - генетическим заболеванием, приводящим к умственной отсталости, - отсутствует белок, регулирующий эту связь от клеток гранул к клетке Пуркинье. В результате у них возникают проблемы с обучением таким задачам, как обучение морганию глазами.
Перцептрон с его четкими правилами обучения в нейронной сети предложил нейробиологам четкие идеи, которые можно было проверить и найти в мозге. При этом он смог связать науку воедино на разных уровнях. Мельчайшие физические детали - например, движение ионов кальция внутри нейрона - приобретают гораздо большее значение в свете их роли в вычислениях.
* * *
Правление перцептрона оборвалось в 1969 году. И по шекспировской иронии судьбы его убил его однофамилец.
Книга "Перцептроны" была написана Марвином Мински и Сеймуром Пейпертом, математиками из Массачусетского технологического института. Книга была озаглавлена "Введение в вычислительную геометрию" и имела простой абстрактный дизайн на обложке. Мински и Пейперта потянуло написать о перцептронах из благодарности за изобретение Розенблатта и желания исследовать его дальше. На самом деле Минский и Паперт встретились на конференции, где они представляли схожие результаты своих исследований того, как перцептрон обучается.
Паперт был уроженцем Южной Африки с полными щеками, здоровой бородой и не одной, а двумя докторскими степенями по математике. Его всю жизнь интересовало образование и то, как оно может быть преобразовано с помощью компьютеров. Минский был меньше чем на год старше Паперта, с более резкими чертами лица и большими очками. Уроженец Нью-Йорка, он учился в Высшей научной школе Бронкса вместе с Фрэнком Розенблаттом; его наставниками также были Маккалох и Питтс.
Минский и Паперт разделяли с Маккалохом и Питтсом навязчивое желание формализовать мышление. Они считали, что истинный прогресс в понимании вычислений достигается за счет математических выводов. Все эмпирические успехи перцептрона - какие бы вычисления он ни выполнял или какие бы категории ни выучивал - почти ничего не значили без математического понимания того, почему и как он работает.
В то время перцептрон привлекал много внимания - и денег - со стороны сообщества искусственного интеллекта. Но он не привлекал того математического внимания, которого жаждали Минский и Паперт. Таким образом, к написанию книги их явно побудило желание повысить строгость изучения перцептронов - но также, как позже признал Паперт, желание уменьшить благоговение перед ними.9
Страницы книги "Перцептроны" состоят в основном из доказательств, теорем и выводов. Каждое из них вносит свой вклад врассказ о перцептроне : определяет, что это такое, что он может делать и как он учится. Однако после публикации этих 200 страниц - тщательного исследования всех тонкостей работы перцептрона - сообщество получило сообщение в основном о его ограничениях. Это произошло потому, что Мински и Паперт убедительно показали, что некоторые простые вычисления перцептрону выполнить невозможно.
Рассмотрим перцептрон, у которого всего два входа, и каждый из них может быть "включен" или "выключен". Мы хотим, чтобы перцептрон сообщал, одинаковы ли два входа: отвечал "да" (т. е. чтобы его блок считывания был включен), если оба входа включены, или если оба входа выключены. Но если один из них включен, а другой выключен, блок считывания должен быть выключен. Подобно сортировке носков в прачечной, перцептрон должен реагировать только тогда, когда видит подходящую пару.
Чтобы считывающее устройство не срабатывало, когда включен только один вход, веса каждого входа должны быть достаточно низкими. Например, они могут быть в два раза меньше, чем требуется для включения считывающего устройства. Таким образом, когда оба входа включены, считывающее устройство сработает, и оно не сработает, когда включен только один вход. При такой настройке считывающее устройство правильно реагирует на три из четырех возможных входных условий. Но в условиях, когда оба входа выключены, считывающее устройство будет выключено - неправильная классификация.
Как выяснилось, сколько бы мы ни возились с силой связи, удовлетворить все потребности классификации сразу невозможно. Перцептрон просто не может этого сделать. И проблема в том, что ни одна хорошая модель мозга - или перспективный искусственный интеллект - не должна потерпеть неудачу в такой простой задаче, как определение того, являются ли две вещи одинаковыми или нет.
Альбус, чья работа о мозжечке была опубликована в 1971 году, знал об ограничениях перцептрона и понимал, что, несмотря на эти ограничения, он был достаточно мощным, чтобы стать моделью задачи обусловливания моргания глаз. Но модель всего человеческого мозга, как обещал Розенблатт? Невозможно.
Портрет, который нарисовали Мински и Паперт, заставил исследователей ясно увидеть возможности перцептрона. До выхода этой книги исследователи могли изучать возможности перцептрона вслепую, надеясь, что границы его способностей еще далеки, если они вообще существуют. Однако после того, как контуры были показаны наглядно, стало невозможно отрицать, что эти границы существуют, и что они гораздо ближе, чем предполагалось. По правде говоря, все это означало понимание перцептрона - именно то, что Мински и Паперт и собирались сделать. Но конец невежества вокруг перцептрона означал и конец восторгов по этому поводу. Как сказал Паперт: "Быть понятым может быть судьбой не хуже смерти".