- На самом деле это не искусственный интеллект, мистер президент, - покачала головой Льюис. - Это как раз то, что доктор Карахалиос любит называть 'раздутой экспертной системой'. Это, конечно, искусственно, но это не по-настоящему разумно. Он не может мыслить за пределами ограничивающих параметров своего базового программирования.
- Первая волна искусственного интеллекта была направлена на то, чтобы научить компьютеры сортировать большие списки информации и находить связи. Это означало, что программисты создавали иерархии, которые позволяли создавать информационные списки и манипулировать ими. Вторая волна создала голосовые интерфейсы и языковой перевод, которые позволили этим системам принимать устные или письменные команды и применять их к информационному списку. Когда вы сообщаете своему телефону, что вам нужно поговорить с одним из офицеров генерала Ландерса, он получает доступ к списку всех офицеров генерала Ландерса. Когда вы предоставляете ему подробную информацию о соответствующем сотруднике, он исключает из списка всех, кто не соответствует этим данным. Вам может показаться, что вы даете ему лишь фрагментарные описания, но пока вы не дадите ему достаточно фрагментов, он не сможет найти того, кого вы ищете. Он не может ... интуитивно проложить свой путь к этому конкретному офицеру. И если вы прикажете своему телефону что-то сделать - внести новую встречу в свой календарь, распечатать печатную копию записки, которую вы читали в электронном виде, - он сможет делать только то, на что он уже запрограммирован, и только в том случае, если вы ему прикажете.
- Итак, по сути, то, что вы могли бы назвать "искусственным интеллектом", - это просто очень сложная библиотека данных и - особенно - программ, которые требуют человеческого руководства, человеческих решений. Некоторые из этих решений - многие из этих решений - могут быть автоматизированы, но в этом смысле они на самом деле не столько "решения", сколько автоматические реакции, которые программисты встроили в систему. Компьютеру все равно, что он делает. Он просто делает то, что ему было сказано делать на каждом шагу и в ответ на распознанные результаты предыдущих шагов, либо посредством своего внутреннего программирования, либо в результате ввода текста или устной информации от человека-оператора.
- Однако третья волна искусственного интеллекта, на которую DARPA и немало других людей начали обращать внимание еще до вторжения, была разработана для применения к компьютерам реальных рассуждений и принятия решений. Чтобы позволить им функционировать независимо от принятия решений человеком. Чтобы - возвращаясь к моему предыдущему примеру - создать пилотов с искусственным интеллектом, способных управлять автономными космическими кораблями между звездами, чтобы это не приходилось делать экипажам шонгейри, бартони или крепту. У них действительно есть системы для управления кораблями, пока экипажи находятся в крио, но они не автономны; они не способны думать сами, если происходит что-то неожиданное для их программирования. В этом случае они должны разбудить командный состав корабля, чтобы получить указания.
- Основываясь на нашей собственной работе, мы убеждены, что можем использовать их существующее "блестящее программное обеспечение" для создания систем искусственного интеллекта, которые действительно автономны. Смогли бы мы создать системы искусственного интеллекта, которые обладали бы самосознанием, или нет, это, конечно, другой вопрос, но мы, безусловно, должны быть в состоянии создать что-то, что дает ужасно убедительную имитацию самосознания. То есть при условии, если мы решим, что хотим этого. Существует ужасно много научной фантастики о потенциальных недостатках создания самосознающего разума, который решает, что ему не нравится выполнять приказы своих создателей. - Ее губы на мгновение изогнулись в усмешке, но затем выражение ее лица снова стало серьезным. - Однако с точки зрения эффективности автономный искусственный интеллект был бы огромным мультипликатором. Несмотря на это, у Гегемонии его нет, когда, по всем человеческим стандартам и самоочевидным возможностям ее технической базы, он должен быть.
- Хмммм.... - Хауэлл задумчиво потер подбородок. - Значит, если бы мы могли использовать их технологию для создания этого вашего "ИИ третьей волны" для себя, у нас было бы преимущество? Большое?
- Очень большое, мистер президент. Но Дэмианос - доктор Карахалиос - поднимает несколько других вопросов в своем текущем отчете. Наши писатели-фантасты и довольно много серьезных ученых изучают нейронное взаимодействие уже пару десятилетий, и мы достигли этого, по крайней мере, до некоторой степени. Например, была проделана очень обнадеживающая работа с использованием компьютерных чипов, доступных для нейронов, для хранения воспоминаний пациентов с болезнью Альцгеймера. Это не то же самое, что прямая связь между мозгом и компьютером, но она движется в том же направлении, и последствия фактического достижения такого рода связи огромны. У нас был большой опыт отдачи устных команд компьютеру еще до вторжения. Это расстраивает - или это было расстраивающим - когда компьютер неправильно вас понял, может быть, из-за фонового шума, может быть, потому, что вы говорили нечетко. Но подумайте, если бы вместо этого вам пришлось физически вводить каждую команду. Даже нажатие на экран вашего айфона или гэлэкси обычно занимало больше времени, чем устная команда. Но теперь представьте, что вы могли бы отдавать команды своему компьютеру со скоростью мысли и никогда не допускать, чтобы он вас неправильно понял. Как думаете, это могло бы ... повысить вашу эффективность?
- Да, представляю, как это было бы, - медленно произнес Хауэлл.
- Конечно, это было бы так, но мы не видим никаких признаков этого в компьютерных технологиях Гегемонии. И это несмотря на то, что они овладели искусством нейронного обучения, так что у них явно есть способность отправлять чрезвычайно сложные массивы данных по крайней мере одним способом через нейронный интерфейс, и у них это было дольше, чем Земле пришлось мириться с Homo sapiens! Так почему же за все это время они не развили способность посылать мысленные команды в систему? Мы даже не видим никаких предположений о такой возможности в литературе, к которой нам пока удалось получить доступ!
- Почему нет?
- Это мы хотели бы знать, мистер президент. Но мы заметили несколько других вещей, большинство из которых, по-видимому, связаны с тем же видом ... осторожности, которая, похоже, встроена во всю промышленную базу Гегемонии. Их язык программирования рекурсивный, что означает, что функция может вызывать саму себя, и это также то, что мы могли бы назвать "типобезопасным", означающее, что он предназначен для предотвращения выполнения системой операции с переменной неправильного типа.
- Большинство человеческих языков программирования тоже предназначены для этого, но из того, что мы можем видеть, кодирование Гегемонии доводит концепции до нелепой крайности. Проверка согласованности допустимых значений и переменных встроена непосредственно в код для невероятного диапазона переменных. Например, в Гегемонии более пятисот языков, что означает, как отметил один из программистов доктора Карахалиоса, что использование языка программирования Гегемонии для написания эквивалента "Привет, мир!" для планеты, которую вы никогда раньше не посещали, или вида, на языке которого вы еще не говорили, это потребовало бы загрузки модуля на миллион строк. Их протоколы потребовали бы, чтобы модуль провел поиск по всей базе данных Гегемонии, чтобы убедиться, что мир, с которым вы разговариваете, существует - даже если вы в данный момент находитесь на орбите вокруг него - и отсортировал каждый из этих языков - каждый язык, на котором говорят где угодно во всей Гегемонии, а не только на рассматриваемой планете - и сопутствующие им социальные конструкции, чтобы быть уверенным, что "привет" - это правильное приветствие, на правильном языке, правильно написанное и с нужной пунктуацией, в данном конкретном социально-политическом контексте.
Хауэлл недоверчиво уставился на нее, и она пожала плечами.
- Это не такая уж страшная проблема, учитывая их скорость вычислений и возможности хранения. Кодовая база раздута до невероятности - исполняемый файл для "Привет, мир" был бы сотнями гигабайт, просто чтобы вместить весь багаж - и, насколько мы можем судить, их библиотеки никогда не сокращаются, но...
- Не сокращаются? - прервал ее Хауэлл.
- Нет автоматического управления памятью, того, что программист-человек назвал бы "уборкой мусора", чтобы освободить память, занятую объектами, которые программа больше не использует, мистер президент. Они просто хранят их все. Вот почему их модули такие чертовски большие. Но, несмотря на это, это заметно не замедляет вывод. Существует некоторое узкое место с точки зрения хранилища, но этого недостаточно, чтобы создать значительные трудности, учитывая, сколько памяти имеется в их системах. Конечно, нет ничего такого, с чем они не могли бы справиться. Вероятно, мы могли бы сократить время их работы, но недостаточно для того, чтобы это сколько-нибудь заметно повлияло на скорость выполнения их программ.
- Проблема в том, что то же самое отношение "проверяй все снова и снова" распространяется как на их системы управления, так и на сами программы. О, мы используем резервирование в критически важных системах - таких, например, как системы управления самолетами, в которых одни и те же вычисления выполняют три совершенно отдельных процессора. До тех пор, пока по крайней мере два из них дают один и тот же ответ, используется именно этот ответ. Если они дают три разных ответа, система возвращается к "ручному управлению" и вызывается человеческий контроль. Однако обычно мы используем подобные системы только в тех случаях, когда сбой может привести к катастрофическим последствиям, таким как человеческая гибель. Насколько мы можем судить, Гегемония применяет одну и ту же идею почти ко всему.