Так получилось, что я подготовился к разговору об эмерджентности в ИИ. Я читал из эссе о "воплощенном интеллекте", теории робототехники, разработанной в Массачусетском технологическом институте в 1990-х годах, когда Родни Брукс руководил Лабораторией медиа. До появления Брукса большинство форм искусственного интеллекта создавались как огромные развоплощенные мозги, поскольку ученые считали, что тело не играет никакой роли в человеческом познании. В результате эти машины преуспевали в самых абстрактных формах интеллекта - вычислениях, шахматах - но терпели поражение, когда дело доходило до тех видов деятельности, которые дети находят легкими: речь и зрение, различение чашки и карандаша. Когда машинам дали тела и научили их взаимодействовать с окружающей средой, они делали это мучительно медленно и неуклюже, поскольку были вынуждены постоянно соотносить каждую новую встречу со своей внутренней моделью мира.

Откровением Брукса стало то, что именно централизованная обработка данных - так сказать, "мозги" компьютеров - тормозила их работу. Наблюдая за тем, как один из этих роботов неуклюже перемещается по комнате, он понял, что таракан мог бы выполнить ту же задачу с большей скоростью и ловкостью, несмотря на то что ему требовалась меньшая вычислительная мощность. Брукс начал создавать машины по образцу насекомых. Он использовал совершенно новую систему вычислений, которую назвал "архитектурой субсуммирования", - форму распределенного интеллекта, подобную той, что существует в пчелиных ульях и лесах. Вместо центрального процессора его машины были оснащены несколькими различными модулями, каждый из которых имел свои собственные датчики, камеры и исполнительные механизмы и минимально взаимодействовал с остальными. Вместо того чтобы быть заранее запрограммированными на целостную картину мира, они учились на лету, напрямую взаимодействуя с окружающей средой. Один из них, Герберт, научился бродить по лаборатории и воровать пустые банки из-под газировки из чужих офисов. Другой, Чингиз, смог ориентироваться на пересеченной местности без какой-либо памяти или внутренней карты. Брукс посчитал, что эти успехи означают, что для интеллекта не нужен единый, знающий субъект. Он был убежден, что эти простые способности роботов будут развиваться, пока не сформируется нечто, очень похожее на человеческий интеллект. "Мышление и сознание не нужно будет программировать", - писал он. "Они появятся сами".

На протяжении всего моего выступления аудитория казалась внимательной и заинтересованной. Но когда мы перешли к вопросам и ответам, стало ясно, что слушатели с гораздо большим энтузиазмом относятся к эмерджентности в биологических системах, чем к перспективам эмерджентного ИИ. Одна женщина, профессор ботаники, вслух размышляла о том, как странно, что мы считаем природу инертной, в то время как она так часто проявляет себя в этих сложных системах. Разве "самоорганизация" не является своего рода агентством и интеллектом? Другой слушатель отметил, что преобладание самоорганизующихся эмерджентных систем наводит на мысль, что на базовом уровне реальности существует некий числовой порядок - золотое сечение или божественное уравнение, - который проявляется в многочисленных закономерностях природы: в стадах, стаях и школах рыб, в кристаллах льда и фрактальной организации снежинок. Мы все были частью одной сети. Многие комментарии перекликались с предпосылками глубокой экологии и объектно-ориентированной онтологии: идеей о том, что пора наконец отказаться от современного рационализма и его привилегированного положения человеческого субъекта; что человеческая исключительность - это своего рода раковая опухоль, которая привела к нашему нынешнему экологическому кризису. Время от времени я вступал в дискуссию, чтобы прокомментировать, как эти же идеи применимы к машинному интеллекту, но каждый раз мне казалось, что я впустил в комнату холодный сквозняк, развеявший кумбайю. Когда я упомянул, что интернет, пробки и фондовый рынок также можно считать формами распределенного интеллекта, меня встретила комната, полная пустых взглядов.

Последний вопрос поступил от человека, который долго говорил о "цереброцентризме", иллюзии, что человеческий мозг имеет некоторое преимущество перед другими системами интеллекта. Это привело к еще более длинному отступлению о Гегеле. В конце концов он перешел к постановке своего вопроса, который оказался скорее вызовом. По его словам, он хотел узнать, как нам, писателям, удается примирить выводы наших исследований с тем фактом, что писательство требует от нас позиции превосходства, предполагающей ложные различия между людьми и другими разумными системами. Не повторяем ли мы, анализируя и критикуя мир, предпосылки этой философии с ее ложной дихотомией субъекта и объекта?

Я взглянул на двух других женщин, которые прилагали лишь минимальные усилия, чтобы скрыть свое раздражение. Очевидно, они не собирались забрасывать наживку. Я повернулась к мужчине и сказала что-то язвительно-прагматичное - что он предложил в качестве альтернативы? У нас у всех есть работа и сроки, нам нужно есть, - по крайней мере, это помогло снять напряжение. Я уже мог предположить, что именно на этот комментарий все будут жаловаться в приватной беседе позже тем же вечером. Но его вопрос был всего лишь самой экстремальной формулировкой позиции, о которой говорили весь вечер, - идеи о том, что космологическая гармония требует отказа от давних представлений о том, что значит быть человеком, или отказа от них. Я, конечно, согласился с тем, что мы часто переоценивали свои силы и придавали слишком большое значение своей уникальности. Но сваливать всю историю разочарований на человеческий эгоизм казалось слишком простым и, возможно, даже противоречащим тому, чего пытались достичь эти новые теоретические рамки. Дискурс слишком часто приходил к странному выводу, что для того, чтобы вновь представить мир разумным и живым, необходимо отказаться от этих качеств в нас самих.

 

-

Когда речь идет о биологических системах, таких как леса и стаи, эмерджентное поведение, которое кажется единым и разумным, может существовать без централизованной системы управления, такой как мозг. Но эта теория была применена и к самому мозгу, как способ объяснить человеческое сознание. Хотя большинство людей склонны считать мозг центральным процессором организма, сам этот орган не имеет центрального управления. Философы и нейроученые часто указывают на то, что наша вера в единое внутреннее "я" - иллюзия, как однажды выразился Ричард Докинз, что мы "единица, а не колония", - не имеет под собой никакой основы в реальной архитектуре мозга. Вместо этого существуют лишь миллионы бессознательных частей, которые, подобно пчелиной колонии, сговорились между собой, чтобы создать "систему", обладающую разумом. Эмерджентизм часто подразумевает, что сознание находится не только в голове; оно возникает из сложных отношений, существующих во всем теле, а также из взаимодействий между телом и окружающей средой.

Брукс и его команда из Массачусетского технологического института, по сути, пытались воссоздать условия эволюции человека. Если верно, что человеческий интеллект возникает на основе более примитивных механизмов, унаследованных нами от предков, то и роботы должны аналогичным образом развивать сложное поведение на основе ряда простых правил. При создании ИИ инженеры обычно использовали подход к программированию "сверху вниз", как будто они были богами, создающими существ по своему образу и подобию. Но эволюция зависит от стратегий "снизу вверх" - одноклеточные организмы развиваются в сложные многоклеточные существа, - что, по мнению Брукса, более эффективно. Абстрактное мышление было поздним событием в эволюции человека, и не таким уж важным, как нам хотелось бы верить; задолго до этого наши предки научились ходить, есть, передвигаться в окружающей среде. Когда Брукс понял, что его роботы-насекомые способны на многое без центрального процессора, он перешел к созданию человекоподобного робота. Машина представляла собой туловище без ног, но убедительно напоминала человеческую верхнюю часть тела, с головой, шеей, плечами и руками. Он назвал ее Cog. Она была оснащена более чем двадцатью шарнирами, а также множеством микрофонов и тепловых датчиков, которые позволяли ей различать звук, цвет и движение. Каждый глаз содержал по две камеры, которые имитировали работу человеческого зрения и позволяли ему совершать "саккады" с одного места на другое. Как и в случае с роботами-насекомыми, у Cog не было центрального управления, и вместо этого он был запрограммирован на ряд самых простых приводов. Главной целью Брукса было доказать, что робот может действовать как разумный человек без центрального хранилища информации - механический эквивалент единого "я". Идея заключалась в том, что через социальное взаимодействие и с помощью алгоритмов обучения машина со временем выработает более сложные модели поведения и, возможно, даже научится говорить.

За те годы, что Брукс и его команда работали над Cog, машина достигла некоторых замечательных результатов. Она научилась распознавать лица и устанавливать зрительный контакт с людьми. Она могла бросать и ловить мяч, показывать на предметы и играть со Slinky. Когда команда играла рок-музыку, Когу удавалось отбивать сносный ритм на барабане. Иногда робот демонстрировал "эмерджентное" поведение - новые действия, которые, казалось, органично развивались из спонтанных действий машины в мире. Однажды одна из аспиранток Брукса, Синтия Бризил, трясла ластик на доске, а Ког протянул руку и коснулся его. Забавляясь, Бреазил повторила это действие, что побудило Кога снова прикоснуться к ластику, как будто это была игра. Брукс был ошеломлен. Похоже, робот осознал идею "очереди", а ведь он не был запрограммирован на ее понимание. Бреазил знал, что Ког не может этого понять - она помогала создавать машину. Но на мгновение она словно забыла об этом и, по словам Брукса, "вела себя так, как будто Ког больше, чем есть на самом деле". По словам Брукса, готовность его студентки относиться к роботу как к "чему-то большему", чем он был на самом деле, привела к появлению чего-то нового. "Cog оказался способен работать на более высоком уровне, чем предполагала его конструкция", - сказал он.