Изменить стиль страницы

Еще один смелый человек, посвятивший свои последние годы карьеры этой проблеме, - Эрик Шмидт, наиболее известный как многолетний генеральный директор и исполнительный председатель совета директоров Google. Сейчас он стремится пробудить нацию к непросчитанным угрозам в киберпространстве и со стороны искусственного интеллекта. Среди них - то, как искусственный интеллект может стать катастрофически мощным множителем силы в биовойне. Он провел нас через то, что он назвал мысленным экспериментом, чтобы спровоцировать, напугать и, возможно, вдохновить на работу по противодействию биологическим угрозам, которые, по его прогнозам, будут множиться со скоростью сети по мере того, как продвинутый искусственный интеллект станет более распространенным в обществе. Представляемые им патогены будут гораздо более жестокими, чем кроличий яд, и их будет легче распространить, чем спрятать на носовом платке.

"Допустим, мы создаем большую базу данных клеточной информации", - сказал нам Шмидт из штаб-квартиры своего проекта "Специальные конкурентные исследования" в пригороде Вашингтона. "И мы создаем набор инструментов, которые позволяют изменять белки и то, как клетки общаются друг с другом. И это общедоступно. Так сколько же патогенов, способных убить весь человеческий род, можно создать с помощью этого?

"Не один", - сказал он. "Может быть, десять. Может быть, сто. Может быть, тысяча. Может быть, сто тысяч. Может быть, миллион. Мы даже не можем количественно оценить риск вымирания в масштабах человечества", - предупредил Шмидт. "Хорошо. Я говорю это для того, чтобы быть провокационным. Может быть, это вас не убьет". (Удар для пущего эффекта.) "Может быть, вас просто парализует".

Существует даже название для этого нового вида оружия и целеуказания: персонализированная война.

По мере коммерциализации этих инструментов ИИ и их широкого использования в обществе "все сценарии, которые являются плохими, будут опробованы", - сказал он. "Для меня самой очевидной новой угрозой будет биологический материал", - заключил Шмидт. "Потому что это станет реальностью, и именно ИИ сделает это возможным. Биологическая угроза действительно страшна. Мы к ней не готовы, и у нас есть опыт, что мы к ней не готовы".

Другая существенная проблема с микробами заключается в том, что для создания глобального кризиса здравоохранения не нужен биотеррорист. Оглядываясь назад, Ники Лури не может не размышлять с грустью и явным разочарованием.

"Я бы сказала, что одна из сумасшедших вещей, произошедших в самом начале пандемии, заключается в том, что люди, подобные моему преемнику, просто не представляли себе, что мать-природа может быть худшим актером, чем биотеррорист", - сказала она. "Поэтому никто не прислушался к предупреждениям. По крайней мере, в правительстве США, я имею в виду, несколько человек в NIH сделали правильные научные выводы, вы знаете, они получили научные данные о мРНК, но не как часть национального ответа".