Коэн, похоже, разделяет мнение Хейдена о Могадишо, но он не всегда был такого мнения. Он считал, что у Соединенных Штатов и Китая был шанс договориться о наборе глобальных норм. Он не заходил так далеко, чтобы считать, что они будут зафиксированы в договоре или официальном своде соглашений, но он считал, что какая-то форма глобальных норм была возможна. "На самом деле я всегда считал, что у США и Китая есть возможность взаимодействовать в этом вопросе; сейчас мне так кажется меньше. Но в более простые времена я думал, что саммит Обамы и Си 2015 года по этому вопросу прошел лучше, чем я ожидал". Именно здесь Соединенные Штаты и Китай договорились контролировать киберкражи и пиратство. "Знаете, я скептически относился к тому, что встреча снизит объем атак, но это произошло, по крайней мере, на год. Мы видели это на примере Google".
Коэн продолжил: "Я подумал, что это может быть интересно, опираясь на это, я подумал, что у нас есть возможность, когда США, Китай и другие страны соберутся вместе и согласуют список целей, которые в принципе запрещены - вентиляционные системы и туннели, водоснабжение, вещи, которые приведут не просто к гибели людей, а к реальным страданиям". Если бы было достигнуто соглашение о том, что является "запрещенным", тогда можно было бы начало основы для того, как думать о сдерживании. Все начинается с ясности в отношении того, что является запрещенным. Это не обязательно ограничит негосударственных субъектов, но это положит начало созданию набора международных норм.
"Я хочу убедиться, что если мы встанем и скажем: "Если вы сделаете это с нами, мы сделаем это с вами", - сказал Коэн. "Они понимают, о чем мы говорим. И потом, если они сделают это, если они скажут нам то же самое, мы поймем, о чем они говорят. Все, что мы можем сделать, чтобы устранить двусмысленность в том, что уже является вечным состоянием киберконфликта. Все, что мы можем сделать, чтобы убрать двусмысленность со стола, приближает нас к сдерживанию", - заметил Коэн.
Этого не произошло, и вряд ли произойдет сейчас. По крайней мере, не с Китаем. И с Россией тоже.
Мы вернули Коэна в мир людей и человеческих ошибок. Мы спросили его о том, что его беспокоит, какие проблемы еще не решены и могут стать катастрофическими. Он начал с того, что его меньше всего беспокоит. Хотя банковская система часто является одним из сценариев Перл-Харбора, для Коэна это не было главной проблемой. Он не склонен к поллианне, но считает, что банковская система стала достаточно технологическим центром, чтобы в ней действовали достаточно эффективные стандарты, протоколы и дисциплина. Это не означает, что отдельные части системы не могут столкнуться со сбоями или потерями, но в целом система относительно надежна.
Мы продолжали выяснять. Как насчет этого? Что насчет этого? Затем мы пришли к коммунальным услугам. Тон его голоса немного изменился, а его реакция была предельно ясной. Когда мы спросили: "Куда бы вы поставили коммунальные услуги в списке ваших забот?", Коэн ответил: "Довольно высоко". Коэн ответил: "Довольно высоко. Я вообще считаю, что уровень безопасности, который существует в коммунальных службах, просто ужасающий. Я не могу понять , почему. Я имею в виду, это неясно, я потрясен, что что-то еще не произошло".
Взлом водопроводной станции во Флориде в феврале 2021 года - это именно тот тип атаки, который имел в виду Коэн. Оператор станции заметил, что курсор на его компьютере вышел из-под его контроля. Затем хакер добавил в водопровод в сто раз больше нормального уровня гидроксида натрия - более известного как щелочь, один из основных ингредиентов средства для очистки стоков. К счастью, оператор станции заметил взлом и вернул гидроксид натрия на нормальный уровень. В этом случае хакер был остановлен на своем пути. Кто знает, что будет в следующий раз.
Коэн продолжил: "Я думаю, что более вероятным сценарием является не атака, спонсируемая государством, а что-то более безобидное, что просто выходит из-под контроля. Потому что дело не только в том, что у этих коммунальных служб нет надлежащих средств защиты. Их персонал гораздо больше подвержен человеческим ошибкам". Может быть, хакер возится с добавками в водопровод?
Вернемся к человеческому фактору. Искать слабые места в киберпространстве - значит искать человеческие ошибки.
Коэн продолжил: "Возьмем электрическую сеть, я думаю, что она станет непропорционально большой мишенью. Она построена на устаревших системах. Системы намеренно децентрализованы, что затрудняет их обновление и так далее. А рабочая сила, скажем так, не относится к числу наиболее грамотных в цифровых технологиях, когда речь идет о таких вещах. Это плохая комбинация".
Есть еще один нюанс. Внимательные кибер-наблюдатели уже много лет предвидят появление квантовых вычислений. Они обеспечат вычислительные преимущества, о которых в прошлом можно было только мечтать. Они также могут дать пользователям возможность взломать шифрование, которое было основой цифровой безопасности. Без надежного шифрования нет цифровой безопасности. Это огромный вызов, и над этой проблемой работают лучшие умы, в том числе лучшие умы Китая. Вопрос о том, дают ли прорывы в квантовых вычислениях преимущество первопроходца - тот, кто первым получит такую возможность, будет иметь огромное преимущество, - является предметом жарких споров, но те, кто стремится получить такую возможность, хотят достичь ее первыми. Конкуренция за квантовые вычисления идет полным ходом.
Если кибер продолжает вызывать постоянное беспокойство из-за беззаконного характера угрозы Дикого Запада, то в киберсфере есть особый элемент, который вызывает особое беспокойство. Мы говорили о мире цифр. Часть киберпространства, которая особенно беспокоит людей, - это мир, где у цифр есть мозг, или то, что более известно как искусственный интеллект.
С момента появления современной вычислительной техники люди были увлечены идеей компьютеров с мозгом, не просто компьютеров, которые могут вычислять, а компьютеров, которые могут самостоятельно рассуждать. Об искусственном интеллекте заговорили в 1950-х годах, и с каждым десятилетием эти разговоры приобретали все большее значение. Только в последнее десятилетие или два обещание искусственного интеллекта стало реальным. Большинство помнит искусственный интеллект HAL из фильма "2001 год: космическая одиссея". Теперь мир населен HAL.
"Итак, [сейчас] ИИ составляет 10 процентов от того, чем он будет", - объяснил Эрик Шмидт, бывший генеральный директор Google, который беседовал с нами из своего офиса в Северной Вирджинии. В прошлом бизнесмен, сейчас он занимается благотворительностью и консультирует правительство о том, как подготовиться к миру проблем, связанных с ИИ.
Шмидт много писал о перспективах искусственного интеллекта. В книге, написанной им в соавторстве с Генри Киссинджером и Дэниелом Хаттенлохером, они описывают перспективы искусственного интеллекта, влияние, которое он окажет на нашу жизнь, и то, как он будет формировать взаимодействие между людьми и между странами.
В нашей беседе со Шмидтом он сосредоточился на более коварной стороне ИИ. Он не описывал, как ИИ обыграет шахматных мастеров мира или как его можно будет использовать для сочинения музыки. Мир, который описывал Шмидт, не был тем, в котором каждый компьютер обладает потенциалом творческого мышления. Скорее, он сосредоточился на том, как горстка компьютеров будет обладать способностью приносить огромное благо или огромный вред. Не раз он говорил: "Мы находимся в 10 процентах. Впереди нас 90 процентов".
Шмидт описал нам будущее, когда компьютеры будут действовать как люди и сами будут решать, над чем им работать. "В какой-то момент, некоторые люди говорят о двадцати годах, но не скоро, появятся системы, с которыми вы сможете разговаривать, которые будут отвечать вам, и, в отличие от нынешних систем, они смогут выбирать свою объективную функцию. Другими словами, они сами будут решать, над чем им работать".
Шмидт быстро исправился. "Они" - это неправильное название. Они" - это компьютеры, а не люди. Он сам решит, над чем ему работать".
Он сказал, что таких компьютеров не будет много, потому что их создание и эксплуатация будут очень дорогими. Системы, которые он описывает, не будут результатом работы творческих умов в каком-нибудь гараже, создающих новый компьютер. Это не будут переделки Стива Джобса и Стива Возняка. Они станут прерогативой государств.
Далее он описал нам леденящий душу сценарий: "Допустим, будет десять компьютеров. Я придумаю число. А теперь скажем, что два или три в Китае, два или три в США, один в Израиле, один в Европе, может быть, один в России, кто знает?".
Шмидт продолжил: "Каков будет характер доступа к этому компьютеру? Потому что с таким компьютером вы можете сказать: "Я хочу знать, я хочу, чтобы вы изобрели способ убить миллион людей, которые не принадлежат к моей расе". Хорошо, и вы говорите: "Ну, очевидно, что вам следует сделать то, что вы должны иметь переднюю часть, которая не позволяет делать такие запросы". Хорошо, тогда мы запретим этот запрос. Хорошо. Но поскольку это общая разговорная система, средний человек может продолжать пытаться, пока не добьется того, чтобы она действительно поняла, чего он хочет, и тогда она это сделает".
Продолжайте спрашивать, пока компьютер не ответит, независимо от того, как он был разработан. Похоже, это еще один вопрос человеческой ошибки, а не ошибки компьютера.
"Таким образом, проблема распространения выглядит следующим образом. Вы должны выяснить, как не допустить попадания этого потенциала в руки плохих людей, а также сдерживать его использование плохим управлением. Итак, предположим, например, что Северная Корея крадет китайскую ракету, что она делает с помощью какого-то относительно простого механизма. Им удалось доставить его в Северную Корею, они сумели включить его, и теперь они заняты тем, что пытаются его использовать. Какова же архитектура сдерживания, чтобы не дать им его включить? Эти вопросы совершенно не изучены".