В некотором смысле Шмидт воспроизводит первые годы ядерной эры, но он хочет сделать это с гораздо большей продуманностью. Прошло почти десять лет ядерной эры, прежде чем возникла дисциплина ядерного сдерживания, прежде чем у нас появились такие термины, как "стабильность второго удара" и MAD, прежде чем "Доктор Стрейнджлав" стал частью лексикона.
Шмидт видит потенциально пугающее будущее, и он хочет сделать тяжелую работу сейчас, пока мы не сорвались в пропасть. Люди достаточно коварны. Шмидт не стремится отдать компьютеры на волю самых мрачных человеческих мыслей.
"Они более мощные, у них больше данных, они могут начать делать вещи, которые мы еще не придумали, как предотвратить".
Шмидт посылает предупреждение. Машина не готова к машине.
Эрик Шмидт - не единственный человек, посылающий предупреждение. В 2018 году Кай-Фу Ли написал книгу под названием "Сверхспособности ИИ". Ли вырос на Тайване и имеет глубокие корни в технологической индустрии и Кремниевой долине. Он возглавлял Google China, пока Google не решил уйти из Китая. Он написал книгу "Сверхспособности ИИ", чтобы озвучить свое собственное предупреждение, и это предупреждение - страшное. Он не оспаривает мнение Шмидта о состоянии ИИ в современном мире - что мы видим только 10 процентов потенциала - но он считает, что Китай дает особые преимущества в конкурентной борьбе.
Ли сравнивает ИИ с первыми днями появления электричества. Как только Эдисон завладел электричеством, невозможно было сказать, как оно изменит современную жизнь. Принести свет во тьму - это одно. Дать энергию машинам - совсем другое. В первые дни появления электричества Эдисон еще не знал, что оно будет использоваться для охлаждения продуктов, стирки и сушки одежды, перемещения людей с земли на вершины самых высоких зданий в мире, перемещения людей по городам на поездах, регулирования дорожного движения и, в конечном счете, для обеспечения энергией человеческого мышления.
Далее он переходит к обсуждению более широкого состояния игры в мире, который он называет "глубоким обучением". Вначале он отмечает, что когда-то это было явным преимуществом США. Большие идеи в мире ИИ исходили из США и Канады. Это было в то время, которое он называет периодом открытий. Но далее он говорит, что мы больше не находимся в периоде открытий. Сейчас мы находимся в периоде внедрения. "В эпоху открытий прогресс двигала горстка элитных мыслителей, практически все из которых были сосредоточены в США и Канаде. Их исследовательская проницательность и уникальные интеллектуальные инновации привели к внезапному и монументальному росту того, что могут делать компьютеры".
Но теперь мы знаем, на что способны компьютеры, и в этой области произошел сдвиг. "Сегодня для успешной работы алгоритмов ИИ необходимы три вещи: большие данные, вычислительная мощность и работа сильных, но не обязательно элитных, инженеров по алгоритмам ИИ". В каждой из этих трех областей, по его мнению, Китай имеет явное преимущество. В предыдущих технологических революциях преимущество получали изобретатели - первые, кто обладал навыками и ноу-хау и применял их на практике. Ли не видит такого преимущества в этой революции. Он с явным весельем отмечает: "Когда его спрашивают, насколько Китай отстает от Кремниевой долины в области исследований искусственного интеллекта, некоторые китайские предприниматели в шутку отвечают "шестнадцать часов" - разница во времени между Калифорнией и Пекином".
С учетом этих деталей Кай-Фу Ли делает леденящее душу предсказание: "Китай скоро сравняется или обгонит США в разработке и внедрении искусственного интеллекта". Далее он продолжает: "Это лидерство в развертывании искусственного интеллекта приведет к росту производительности в масштабах, невиданных со времен промышленной революции".
Затем он говорит о последствиях для рабочей силы США: "Я предсказываю, что в течение пятнадцати лет искусственный интеллект технически сможет заменить от 40 до 50 процентов рабочих мест в Соединенных Штатах". Он видит аналогичные последствия в Китае, но делает вывод, что потеря рабочих мест в первую очередь произойдет в США. Он не прогнозирует 40-50-процентную безработицу, поскольку интервенции в различных формах замедлят многие потери. Но потери, тем не менее, будут значительными.
Не все согласны с анализом и прогнозами Ли. Некоторые, кто не согласен с ним, считают, что авторитарная система Китая станет его гибелью. Она станет хрупкой тогда, когда должна быть прочной. Она не сможет хорошо адаптироваться к социальным изменениям, которые неизбежно придут в китайское общество. Только демографическая ситуация в Китае может стать его гибелью. Демографы отмечают, что в течение следующих семидесяти пяти лет население Китая сократится наполовину - да, наполовину. Другие предполагают, что это может произойти даже быстрее, возможно, в течение сорока пяти лет. Но те, кто погружен в область ИИ, читали Кай-Фу Ли и обращают на него внимание. Эти люди считают, что шансы Америки выше, чем он предполагает, но они прислушиваются к его предупреждению. Они делают все возможное, чтобы привлечь к этому внимание американских лидеров и широкой общественности.
Последнее размышление. Мы уже писали о моментах Спутника. Кай-Фу Ли пишет о китайском моменте Спутника. Это было, когда подросток Ке Цзе был выставлен против Alpha Go, искусственного интеллекта, поддерживаемого Google. Кэ Цзе был ведущим игроком в Китае в древнюю игру Го, в которую играют на доске с камнями размером девятнадцать на девятнадцать. Как описывает Кай-Фу Ли, Ке Цзе был не просто побежден мыслящей машиной, он был полностью уничтожен. Это произошло в 2017 году. Это привело к осознанию лидерами Китая того, что ИИ - это соревнование, которое Китай должен выиграть. С тех пор оглядки на прошлое не было.
Эрик Шмидт, Боб Ворк, Джейсон Мэтини и другие технологи вошли в состав Национальной комиссии по искусственному интеллекту. Они опубликовали свой отчет в конце 2021 года на шестистах страницах, включая приложения. Отчет похож на многие отчеты комиссий - много фактов и цифр, множество рекомендаций. Отчет полон предупреждений от серьезных людей и призывов к действию - к лидерам Америки и американскому народу. Доклад посвящен талантам, технологиям, интеллектуальной собственности и многим другим темам.
На самом деле, доклад посвящен тому, чтобы пробудить Америку от дремоты.
Нам повезло. Революция ИИ не является стратегическим сюрпризом. Мы ощущаем ее влияние в нашей повседневной жизни и можем предвидеть, как исследовательский прогресс воплотится в реальных приложениях, прежде чем нам придется столкнуться со всеми последствиями для национальной безопасности. Эта комиссия может предупредить о вызовах национальной безопасности и сформулировать преимущества, а не объяснять, почему предыдущие предупреждения были проигнорированы, а возможности упущены. У нас все еще есть возможность внести изменения, чтобы построить более безопасное и лучшее будущее. Темпы инноваций в области ИИ не равны, они ускоряются. Если Соединенные Штаты не предпримут никаких действий, то в ближайшее десятилетие они, скорее всего, уступят Китаю свои лидирующие позиции в области ИИ и станут более уязвимыми для целого спектра угроз с использованием ИИ со стороны множества государственных и негосударственных субъектов.
В отчете перечисляется множество проблем и мер по их устранению, но выделяется одно конкретное замечание: "Самый лучший человек-оператор не сможет защититься от множества машин, совершающих тысячи маневров в секунду, потенциально движущихся на гиперзвуковых скоростях и управляемых искусственным интеллектом в разных областях. Люди не могут быть везде одновременно, но программное обеспечение может".
Они хотят, чтобы программное обеспечение находилось в руках американцев, и они знают, что Соединенные Штаты могут стать лидером. Они также знают, что механизм для этого еще не создан и что времени на его создание мало.
Что их беспокоит?
Правительство США по-прежнему работает со скоростью человека, а не машины. Внедрение ИИ требует глубоких изменений в деловой практике национальной безопасности, организационной культуре и менталитете от тактического до стратегического уровня - от поля боя до Пентагона. Правительство отстает от коммерческого уровня в большинстве категорий ИИ, включая базовую автоматизацию бизнеса. Оно страдает от технических недостатков, которые варьируются от нехватки цифровых кадров до неадекватных планов приобретения, недостаточной сетевой архитектуры и слабой практики работы с данными. Бюрократия мешает налаживанию партнерских отношений с лидерами ИИ в частном секторе, которые могли бы помочь. Правительство должно стать лучшим клиентом и лучшим партнером. Инновации в области национальной безопасности в отсутствие такого стимула, как крупная война или террористическая атака, потребуют сильного руководства.
Комиссия хочет создать машину предупреждения и действий, которая выглядит и управляется скорее как Tesla, чем как "Шевроле" 47-го года, стоящий в гараже. Речь идет не о внедрении технологий или найме персонала, разбирающегося в цифровых технологиях. Речь идет о том, чтобы принять новое мышление. Это похоже на первые дни ядерной эры. Лучшие умы страны нужны для поддержки неотложного национального дела. А институты, которые их окружают, должны адаптироваться, чтобы они могли бороться с новыми проблемами с той скоростью, с которой они появляются. В мире киберпространства или ИИ мало что происходит медленно, кроме институтов, которые мы создали для борьбы с этой угрозой. Генерал Майк Хайден был прав: проблемы надвигаются на нас со скоростью 186 000 миль в секунду. Старый "Шевроле", каким бы гладким и блестящим он ни был, просто не создан для этого. Лучше оставить его в гараже.