Очень похожие вещи происходили и с искусственным разумом в следующие 50 лет. Подходы, являющиеся сегодня многообещающими, будут усовершенствованы. Другие уйдут в сторону; будут открыты новые.
Рэй Курцвейль [Ray Kurzweil], один из пионеров искусственного интеллекта, основавший несколько успешных компаний, занимающихся ИИ-технологиями, предполагает, что рождение разумной машины произойдет неожиданно, в результате согласованных попыток создать аналог человеческого мозга для хранения в нем информации в качестве резервной копии. В своей вступительной речи на открытии Ближневосточной конференции по информационным технологиям, проводимой Gartner Group в июне 1995 года, Курцвейль обрисовал следующий возможный вариант развития.[236]
• К 1997 году компании, такие как Dragon Systems, выпустят на мировой рынок первую систему распознавания речи с большим словарем – настоящую «голосовую пишущую машинку», которая позволит говорить обычным образом, а компьютеру – записывать сказанное (это уже произошло). В 1998 году компании смогут предложить аналогичную систему, не зависимую от говорящего, и позволят использовать технологию в слуховых аппаратах для глухих (этого пока не произошло).
• К 2005 году «компьютеры смогут влиять на психическое состояние человека, по необходимости помогая справиться с такими расстройствами, как перенапряжение и беспокойство». Люди будут общаться с компьютерами преимущественно устно. Компьютерные дисплеи тем временем уменьшатся до размера очков, которые будет носить подавляющее большинство людей, эти очки будут представлять собой «трехмерный дисплей, перекрывающий обычный визуальный мир».
• К 2011 году компьютеры смогу играть роль людей настолько хорошо, что искусственные люди станут первичным средством обучения: «Вместо того чтобы читать о Конституционном конвенте, студент сможет… подискутировать с моделью Бена Франклина о чрезвычайных полномочиях в военное время, роли судов и других аспектах».
• К 2030 году люди смогут полностью воссоздать структуру нейронной организации человеческого мозга. Технология позволит людям просканировать собственный мозг и использовать «свои персональные компьютеры как персональные устройства резервного копирования».
Курцвейль размышляет далее:
Когда человек будет отсканирован и воссоздан в нейрокомпьютере, человечество задумается: «Кто же этот человек в машине?» Ответ зависит от того, кого спросить. Если спросить человека, находящегося внутри машины, он, несомненно, заявит, что является исходной личностью, прожившей несколько жизней, помещенной в сканер и проснувшейся в компьютере. «Ого! Эта технология действительно работает. Вы должны дать ей попытку!», – скажет он. С другой стороны, исходная личность, подвергнутая клонированию, заявит, что человек внутри машины – самозванец, который просто разделяет с ней память, историю, знакомых, но на самом деле является абсолютно другим человеком.
Тем не менее это происходит, и разумные машины будут созданы в ближайшие 50 лет. А будучи созданными, они поднимут одну не известную доселе проблему. Помещенный в кремниевые пластины разум всегда должен оставаться открытой книгой. Принципиально важно, чтобы этот компьютер ничего не скрывал от своих создателей – ни одного бита данных, ни одного кусочка информации, ни одного варианта расчета. Его память должна быть открыта для просмотра. Человек должен управлять созданными им разумными машинами так же, как Бог управляет людьми.
Не станет ли разум, которому не оставлено ни капли приватности, психически больным? Не получится ли так, что соединение разума и памяти внутри компьютерных банков данных станет настолько сложным, что не сможет быть расшифровано создавшими его людьми без помощи самих разумных машин? Будут ли этичными эксперименты над искусственным разумом, например стирание некоторых участков его памяти и наблюдение за реакцией? Будет ли это действие более этичным, если после его окончания искусственный разум будет возвращен в исходное состояние?
«Аморально или незаконно причинять боль и страдание вашей компьютерной программе? – размышляет Курцвейль. – Законно ли отключать вашу компьютерную программу? Возможно, это незаконно, если вы не сделали резервную копию».
Но эти вопросы – только начало, замечает Курцвейль:
К 2040 году в соответствии с законом Мура[237] обычный серийный персональный компьютер будет в состоянии моделировать разум 10 тысяч человек, каждый из которых будет функционировать в 10 тысяч раз быстрее реального человеческого мозга. Либо он сможет реализовать модель человека с емкостью памяти в 10 тысяч раз больше обычного мозга и работающую в 100 миллионов раз быстрее. Каковы будут последствия такого развития?
Учитывая реальную возможность того, что наши интеллектуальные потомки будут населять описанные Курцвейлем мифические машины в 2040 году, мы должны серьезно подумать о правовом и этическом режиме, в соответствии с которым эти разумные аватары будут функционировать, – если эти аватары действительно являются репликантами человеческого разума, если они думают и сами создают объекты творчества, они должны обладать теми же правами на приватность, что и люди из плоти и крови. С другой стороны, в этом случае произойдет описанный в главе 9 перехват разума. Если же пойти другим путем, то в наших собственных интересах гарантировать права компьютерному разуму: приватность, которую вы сохраняете, однажды может оказаться вашей!
11
Право на личную тайну сейчас!
…Принимая во внимание, что необходимо, чтобы права человека охранялись властью закона в целях обеспечения того, чтобы человек не был вынужден прибегать, в качестве последнего средства, к восстанию против тирании и угнетения…
Никто не может подвергаться произвольному вмешательству в его личную и семейную жизнь, произвольным посягательствам на неприкосновенность его жилища, тайну его корреспонденции или на его честь и репутацию. Каждый человек имеет право на защиту закона от такого вмешательства или таких посягательств.
Принята и провозглашена резолюцией 217 А (III) Генеральной Ассамблеи ООН от 10 декабря 1948 года (Doc A/810 at 71).[p70]
В XXI веке кампания против свободы и независимости личности разворачивается во всем мире, но наиболее явно это происходит в Соединенных Штатах. Эта кампания реализуется совместно правительством, бизнесом и обычными гражданами. Мы все виновны. Приватности наносятся тысячи смертельных ран. Свободные общества поворачиваются спиной к вопросам приватности на свой страх и риск, ведь приватность – одно из фундаментальных прав, из которого происходят все остальные права человека:
• сама жизнь не может существовать без возможности предотвращать или сдерживать вторжения. Простейшие организмы используют клеточную оболочку для защиты своего тела от вторжений. Мы, люди, при защите своей неприкосновенности и приватности полагаемся на нашу кожу, наши дома, заборы и наше оружие;
• без приватности мышления – свободы, позволяющей нам формировать свое собственное мнение, и секретности, дающей нам возможность хранить наше мнение в тайне до тех пор, пока мы сами не решим высказать его, – не может существовать личность и индивидуальность;
• без приватности коммуникаций не может существовать политической жизни и в конечном счете нормальных взаимоотношений. Люди не смогут вести откровенных разговоров друг с другом, зная, что их слова слышит, а возможно, и записывает кто-то еще. Точно так же, как приватность личности является непреложным условием развития собственного «я», приватность в отношениях между людьми является непреложным требованием для создания длительных дружеских отношений.
236
Ray Kurzweil, «Turing's Prophecy – Machine Intelligence: the First 100 years (1940–2040)», Keynote Address, Gartner Group Middle East Information Technology Conference, Tel Aviv, Israel, 25 июня 1995.
237
Закон Мура не является законом в полном смысле этого слова. Это наблюдение, сделанное основателем фирмы Intel Гордоном Муром [Gordon Moore]. В соответствии с законом Мура, производительность компьютеров по скорости удваивается приблизительно каждые 18 месяцев в результате развития полупроводниковых технологий и вложений в научно-исследовательские и опытно-конструкторские работы.
p70
Процитирован перевод Декларации на русский язык, доступный на сервере ООН в Интернете по адресу http://www.un.org/russian/ documen/declarat/declhr.htm.