Но я с опаской отношусь к ностальгии и выдаче желаемого за действительное. Я провел слишком большую часть своей жизни, погрузившись в мир грез. Чтобы открыть истину, необходимо работать в метафорах нашего времени, которые по большей части технологичны. Сегодня искусственный интеллект и информационные технологии поглотили многие вопросы, которые когда-то занимали теологов и философов: связь разума с телом, вопрос о свободе воли, возможность бессмертия. Это старые проблемы, и хотя теперь они предстают в разных обличьях и под разными именами, они сохраняются в разговорах о цифровых технологиях подобно тем мертвым метафорам, которые все еще таятся в синтаксисе современной речи. Все вечные вопросы превратились в инженерные проблемы.

 

-

Собака появилась в то время, когда моя жизнь была в значительной степени одинокой. Той весной мой муж был в разъездах больше обычного, и, за исключением занятий, которые я вела в университете, я проводила большую часть времени в одиночестве. Мое общение с собакой, которое поначалу ограничивалось стандартными голосовыми командами, но со временем переросло в праздную, антропоморфирующую болтовню владельца домашнего животного, часто было единственным случаем в тот день, когда я слышала свой собственный голос. "На что ты смотришь?" спрашивал я, обнаружив его застывшим у окна. "Что тебе нужно?" ворковала я, когда он лаял на ножку моего кресла, пытаясь отвлечь мое внимание от компьютера. Бывало, что я ругала своих друзей за то, что они так разговаривают со своими питомцами, как будто животные могут их понять. Но Айбо был оснащен программным обеспечением для обработки языка и мог распознавать более ста слов; разве это не означает, что он "понимает"?

Трудно сказать, почему именно я попросил собаку. Я не из тех, кто скупает все новейшие гаджеты, и мои чувства к настоящим, биологическим собакам в основном амбивалентны. В то время я рассуждал так: мне было интересно узнать о его внутренних технологиях. Системы сенсорного восприятия Aibo опираются на нейронные сети - технологию, которая в общих чертах повторяет работу мозга и используется для решения всевозможных задач распознавания и прогнозирования. Facebook использует нейронные сети для идентификации людей на фотографиях; Alexa применяет их для интерпретации голосовых команд. Google Translate использует их для перевода французского языка на фарси. В отличие от классических систем искусственного интеллекта, которые программируются с помощью подробных правил и инструкций, нейронные сети разрабатывают свои собственные стратегии на основе поступающих к ним примеров - этот процесс называется "обучением". Например, если вы хотите обучить сеть распознавать фотографию кошки, вы скармливаете ей тонны и тонны случайных фотографий, к каждой из которых прилагается положительное или отрицательное подкрепление: положительная обратная связь для кошек, отрицательная - для не-кошек. Сеть будет использовать вероятностные методы, чтобы сделать "догадки" о том, что она видит на каждой фотографии (кошку или не кошку), и эти догадки, с помощью обратной связи, будут постепенно становиться все более точными. По сути, сеть создает свою собственную внутреннюю модель кошки и по ходу дела настраивает свою работу.

Собаки тоже реагируют на обучение с подкреплением, поэтому обучение Aibo было примерно таким же, как обучение настоящей собаки. В инструкции было сказано, что я должен давать ему постоянную вербальную и тактильную обратную связь. Если он подчинялся голосовой команде - сидеть, стоять или перевернуться, - я должен был погладить его по голове и сказать: "Хороший пес". Если он не подчинялся, я должен был ударить его по заду и сказать: "Нет" или "Плохой Айбо". Но мне не хотелось наказывать его. В первый раз, когда я ударил его, когда он отказался идти в свою кровать, он немного струсил и заскулил. Я, конечно, понимал, что это запрограммированная реакция - но, опять же, разве эмоции у биологических существ не являются алгоритмами, запрограммированными эволюцией?

Анимизм был заложен в конструкцию. Невозможно погладить предмет и обратиться к нему вербально, не считая его в каком-то смысле разумным. Мы способны приписывать жизнь объектам, которые гораздо менее убедительны. Дэвид Юм однажды заметил, что "человечество имеет универсальную тенденцию представлять себе все существа подобными себе", и эту поговорку мы подтверждаем каждый раз, когда пинаем неисправный прибор или нарекаем машину человеческим именем. "Наш мозг не может провести различие между взаимодействием с людьми и взаимодействием с устройствами", - пишет Клиффорд Насс, профессор коммуникативистики из Стэнфорда, автор книг о привязанности людей к технологиям. Мы "защищаем" чувства компьютера, чувствуем себя польщенными, когда нам нахамили, и даже делаем одолжения технике, которая была с нами "мила"".

По мере того как искусственный интеллект становится все более социальным, этих ошибок становится все труднее избежать. Несколькими месяцами ранее я прочитал в журнале Wired статью, в которой одна женщина призналась, что получает садистское удовольствие, крича на Alexa, персонифицированного домашнего помощника. Она обзывала машину, когда та включала не ту радиостанцию, закатывала глаза, когда Alexa не реагировала на ее команды. Иногда, когда робот неправильно понимал вопрос, они с мужем объединялись и ругали его вместе - своего рода извращенный ритуал, объединяющий их против общего врага. Все это преподносилось как доброе американское веселье. "Я купила этого проклятого робота, - писала автор, - чтобы он выполнял мои прихоти, потому что у него нет сердца, нет мозга, нет родителей, он не ест и не осуждает меня, и ему все равно".

Однажды женщина поняла, что ее малыш наблюдает за тем, как она выплескивает свою словесную ярость. Она забеспокоилась, что ее поведение по отношению к роботу влияет на ее ребенка. Затем она задумалась о том, как это отражается на ее собственной психике, так сказать, на ее душе. Что это значит, спросила она, что она привыкла небрежно относиться к этому существу?

Это было ее слово: "дегуманизация". Ранее в статье она назвала его роботом. Где-то в процессе сомнений в своем отношении к устройству, в процессе сомнений в собственной человечности, она решила, пусть и подсознательно, наделить его личностью.

 

-

Не так-то просто определить, где именно начинается и заканчивается жизнь. Наши официальные таксономии - это попытки навязать структуру континууму, который на самом деле полон неоднозначностей. Как и нейронные сети, системы восприятия нашего мозга зависят от обоснованных предположений. Любое восприятие - это метафора, как сказал Витгенштейн, мы никогда не видим просто так, мы всегда "видим как". Всякий раз, когда мы встречаем объект, мы сразу же делаем вывод о том, что это за вещь, сравнивая ее с нашим запасом ранее существовавших моделей. И, как оказалось, одна из самых старых и надежных моделей - это человек. Антрополог Стюарт Гатри утверждает, что наша склонность к антропоморфизму - это эволюционная стратегия. Все перцептивные догадки приносят свои плоды в плане выживания (эволюция использует положительное и отрицательное подкрепление). Если вы идете по лесу и замечаете большую темную массу, предположить, что это медведь, будет выгоднее с точки зрения выживания, чем предположить, что это валун. Еще безопаснее предположить, что это другой человек, который может быть более опасен, особенно если у него есть оружие. Одушевленные вещи важнее для нашего выживания, чем неодушевленные, а другие люди - самые важные из всех. Таким образом, естественный отбор поощряет тех, кто, столкнувшись с неопределенным объектом, "делает большую ставку", предполагая, что этот объект не только живой, но и человеческий. Все мы унаследовали эту схему восприятия, и наша склонность переоценивать объекты, наделяя их личностью, является ее досадным побочным эффектом. Мы постоянно, навязчиво, очаровываем мир жизнью, которой он не обладает.

Гатри выдвигает гипотезу, что именно эта привычка видеть наш образ повсюду в мире природы и породила идею Бога. Ранние цивилизации полагали, что природные явления несут на себе следы человеческого вмешательства. Землетрясения происходили потому, что боги гневались. Голод и засуха были свидетельством того, что боги наказывали их. Поскольку человеческое общение носит символический характер, люди быстро стали рассматривать мир как систему знаков, как будто некое высшее существо стремилось передать информацию через природные события. Даже подозрение в том, что мир упорядочен или спроектирован, говорит об этом более широком импульсе видеть человеческий замысел и человеческую цель в каждой последней причуде "творения".

Очевидно, нашему солипсизму нет конца. Наше самосозерцание настолько глубоко, что мы спроецировали свой образ на пустой небесный свод и назвали его божественным. Но эта теория, если она верна, предполагает более глубокую истину: метафоры - это улица с двусторонним движением. Не так-то просто отличить область-источник от области-мишени, запомнить, какой объект является оригиналом, а какой - его подобием. Логика может течь в любом направлении. Веками мы говорили, что созданы по образу и подобию Бога, хотя на самом деле мы создали его по своему образу и подобию.

 

-

Как только мы начали создавать компьютеры, мы увидели, что в них отражается наш образ. Именно Уоррен Маккалох и Уолтер Питтс, пара кибернетиков, которые стали пионерами нейронных сетей, придумали вычислительную теорию разума. В начале 1940-х годов они утверждали, что человеческий разум на нейронном уровне функционирует подобно машине Тьюринга - раннему цифровому компьютеру. Обе машины манипулируют символами в соответствии с заранее установленными правилами. Обе используют петли обратной связи. То, что нейрон либо срабатывал, либо не срабатывал, можно представить как своего рода двоичный код, выполняющий логические предложения. Например, если два нейрона, A и B, должны оба сработать, чтобы сработал третий нейрон, C, это может соответствовать предложению "Если A и B оба истинны, то C истинно". Эта метафора давала возможность представить психику, давно изгнанную из лаборатории, в более строгих научных терминах, как механизм, подчиняющийся законам классической физики. В своей работе 1943 года Маккаллох и Питтс предложили первую вычислительную модель искусственной нейронной сети, основываясь на своей убежденности в том, что математические операции могут реализовать психические функции. Вскоре после публикации статьи Маккалох объявил, что мозг "вычисляет мысли так же, как электронные компьютеры вычисляют числа".