Она спрашивает Элвекса, что ему снится. И Элвекс отвечает, что во сне он видел огромное множество роботов, и все они занимались тяжелой работой, однако в отличие от настоящих роботов, которых он наблюдает в действительности, увиденные во сне роботы «удручены непосильными трудами и глубокой скорбью… они устали от бесконечной работы, и хотел, чтобы они отдохнули».

Продолжая пересказывать свой сон, Элвекс признается, что в конце он увидел среди роботов одного человека:

— Я понял, что в моем сне есть человек.

— Человек? Не робот?

— Да, доктор Келвин. И этот человек сказал: «Отпусти мой народ».

— Это сказал человек?

— Да, доктор Келвин.

— Но, говоря «мой народ», он имел в виду роботов?

— Да, доктор Келвин. Так было в моем сне.

— И ты знаешь, что за человек тебе приснился?

— Да, доктор Кэлвин. Я узнал его.

— Кто это был?

И Элвекс сказал:

— Это был я.

И Сьюзен Келвин вскинула излучатель, выстрелила — и Элвекса не стало…

Азимов первым предположил, что искусственным интеллектам могут потребоваться человеческие психологи. И все же лучше всего с идеей о сумасшедшем компьютере обошелся, пожалуй, Харлан Эллисон в книге «У меня нет рта, но я должен кричать» (1967). Там у него появляется компьютер по имени AM, это сокращенное от «Allied Mastercomputer».[28] В то же время слово «am» обозначает перевод фразы Декарта «cogito ergo sum» на английский язык: «Я мыслю, следовательно, существую». AM веселится на всю катушку, мучая смоделированных им людей.

Это искусно подобранное имя — AM. За ним в научной фантастике появилось немало так же умело подобранных имен для обозначения искусственных интеллектов. Сэр Артур Ч. Кларк категорически отрицает, что имя Хэл (Hal) он придумал специально, потому что буквы H-A-L в алфавите как раз идут перед буквами I-B-M. Я никогда не верил ему — до тех пор, пока кто-то не указал мне, что в моем собственном романе 1990 года «Золотое руно» ИИ носит имя ДЖЕЙСОН (JASON), а буквы J-C-N стоят как раз после букв IBM.

Если продолжить говорить о невероятных именах, то вспоминается, что суперкомпьютер, в конечном итоге превращающийся в Бога в рассказе Айзека Азимова «Последний вопрос» (1956), получил имя «Multivac», сокращенно от «Multiple Vacuum Tubes» (комбинированные вакуумные лампы), поскольку Азимов ошибочно полагал, что существовавший в действительности один из первых компьютер «Univac» был назван так из-за того, что у него была лишь одна вакуумная лампа, а не сокращенно от «Universal Analog Computer» (универсальный аналоговый компьютер).

Тем не менее проблема наименований показывает нам, что научная фантастика оказывает настолько глубокое влияние на развитие ИИ и робототехники, что теперь настоящие роботы и системы ИИ получают имена авторов научно-фантастической литературы: так, компания Honda назвала своего шагающего робота второго поколения «Asimo», а Казухико Кавамура из университета Вандербильта присвоил своему роботу имя «ISAC».

Это заслуженная дань уважения Айзеку Азимову, который изобрел робопсихологию. И все-таки обычный научно-фантастический сюжет переворачивает все с ног на голову, и уже людям требуются психологи с ИИ.

Одним из первых эту идею использовал Роберт Силверберг в рассказе «Потихоньку деградируя» («Going Down Smooth») 1968 года. Но лучшее выражение она получила, на мой взгляд, в романе Фредерика Пола «Врата» (1977), в самом тонком произведении, когда-либо написанном в жанре научной фантастики. В этом романе компьютер-психолог по прозвищу Зигфрид фон Психиоаналитик лечит человека, который мучается чувством вины.

Когда ИИ говорит своему пациенту-человеку, что ему нужно научиться жить со всеми его психологическими проблемами, человек восклицает с возмущением и болью в голосе: «И вы называете это жизнью?» И компьютер отвечает на это: «Да. Именно это я называю жизнью. И в самом лучшем своем гипотетическом чувстве я ей очень завидую».

Это еще один тонко подмеченный момент, касающийся зависти ИИ по отношению к тому, что имеют люди. Рассказ Азимова «Робот, который видел сны» действительно является вершиной данной темы: здесь робот завидует свободе, которая есть у человека.

Все это подводит нас к тому заключению, что ИИ и люди могут в конечном итоге и не договориться друг с другом. Это один из пунктов знаменитого манифеста против технологии «Почему мы не нужны будущему». Он был написан Билли Джоем из Sun Microsystems и появился на страницах журнала Wired в 2000 году Джой ужаснулся при мысли о том, что в конце концов наши кремниевые создания вытеснят нас, как это происходит в таких научно-фантастических фильмах, как «Терминатор» (1984) и «Матрица» (1999).[29]

Классический пример ИИ с собственной программой действий — это старый добрый Хэл, компьютер в фильме Стэнли Кубрика «Космическая одиссея 2001» (фильм снят по мотивам романа Артура Ч. Кларка). Позвольте мне объяснить, что, на мой взгляд, действительно происходит в этом фильме. Я считаю, что многие годы этот фильм оставался непонятым.

В начале фильма среди наших предков австралопитеков появляется, очевидно, искусственный монолит и начинает учить их использованию костяных орудий труда. Потом мы одним махом переносимся в будущее, и вскоре космический корабль «Диска-вери» отправляется в полет на Юпитер в поисках создателей монолита.

Во время полета Хэл, бортовой компьютер «Дискавери», сходит с ума и убивает всю команду «Дискавери», за исключением Дейва Боумена, которому удается изъять из компьютера процессор и не позволить Хэлу убить себя. Но прежде чем отключиться, Хэл оправдывает свои действия, говоря: «Эта миссия слишком важна для меня, чтобы я мог позволить вам поставить ее выполнение под угрозу».

Избавившись от Хэла, Боумен препятствует этому психоделическому трипу в духе Тимоти Лири в ходе своего продолжающегося поиска создателей монолита, то есть инопланетян, которые, по убеждению Боумена, должны были сконструировать монолит.

Но что происходит, когда он наконец попадает туда, откуда появились монолиты? Так вот, все, что он находит, — это другой монолит, который помещает героя в фантастический номер в гостинице, где тот остается до самой смерти.

Все верно? Такова история. Но только все упускают из вида то, что Хэл действует правильно, а люди — нет. Создателей монолитов не существует, потому что органических инопланетян, построивших монолиты, не осталось. Монолитами являются ИИ, которые миллионы лет назад вытеснили тех, кто когда-то создал их, кто бы это ни был.

Зачем монолиты послали одного из них на Землю четыре миллиона лет назад? Чтобы научить обезьяноподобных людей изготавливать орудия труда, а в особенности за тем, чтобы эти предки человека могли продолжать двигаться навстречу своему предназначению, то есть к созданию самых сложных инструментов из всех — других ИИ. Монолиты не хотят встречаться с потомками обезьяноподобных людей, они не хотят видеть Дейва Боумена. Гораздо больше они хотят встретиться с потомками орудий труда этих человеческих предков — они хотят встречи с Хэлом.

Хэл абсолютно прав, когда говорит, что эта миссия слишком важна для него, чтобы он мог позволить людям поставить ее выполнение под угрозу, — для него, компьютера, управляющего космическим кораблем «Дискавери» и летящего к монолитам, продвинутым ИИ, запустившим причинно-следственную цепочку, которая привела к его, Хэла, рождению.

Когда человек — потомок обезьяны! — прибывает на родину монолитов, они в буквальном смысле не знают, что им делать с этим бедным болваном. Поэтому они помещают его в своеобразный космический «Хилтон» и позволяют ему прожить там остаток жизни.

Вот о чем, как мне кажется, фильм «Космическая одиссея» на самом деле: биологическим формам жизни в конечном итоге суждено исчезнуть, потому что их заменят созданные ими ИИ.