Рассмотрим передовую постоянную угрозу (APT), в которой злоумышленник, обычно государство или спонсируемая государством группа, активно использует слабые места в кибербезопасности обороняющейся стороны, чтобы получить доступ к ее компьютерной сети, намереваясь оставаться незамеченным, пока он манипулирует сетью в своих целях, например, путем внедрения вредоносных программ. Создание APT является трудоемким делом, требующим высокой квалификации. С развитием машинного обучения и искусственного интеллекта процесс поиска уязвимостей в сети может быть все более автоматизирован, что позволит увеличить частоту сложных попыток проникновения в сети. Если это подтвердится, то ограничивающим фактором в разработке APT может стать не труд, а капитал в виде машинного обучения и ИИ. Если это так, то любая группа, обладающая финансовыми ресурсами для приобретения потенциала APT, управляемого ИИ, сможет значительно усилить свой потенциал наступательной кибервойны. Это может быть возможно даже для групп, обладающих лишь базовыми знаниями о кибер-операциях. Теоретически, можно просто запустить в работу готовую систему ИИ. Поскольку стоимость тиражирования программного обеспечения ИИ ничтожно мала, барьеры для распространения АПТ могут быть значительно снижены.

Сегодня противодействие кибератакам обычно требует выбора между частотой и масштабом атак, с одной стороны, и их эффективностью - с другой. Так обстоит дело с "фишингом" и "копьеметанием". Фишинговые атаки подразумевают рассылку общих сообщений большому количеству адресатов. Они используются, несмотря на очень низкий процент успеха, просто из-за огромного количества атакуемых целей. Почти каждый человек получал по электронной почте сообщение, адресованное широкой аудитории, которое побуждает его нажать на иконку или веб-адрес, что приведет к загрузке вредоносного ПО на его компьютер или к раскрытию личной или служебной информации. Большинство получателей просто удаляют письмо. Однако небольшой процент не делает этого.

Spear phishing, с другой стороны, является разновидностью "дизайнерского" фишинга, который предполагает подготовку сообщений электронной почты для определенных групп или лиц. Цель состоит в том, чтобы убедить получателя в том, что письмо пришло от человека или организации, которых он знает и которым доверяет, например, от друга, коллеги или работодателя. Например, в 2019 году хакеры проникли в Redbanc, межбанковскую сеть, соединяющую систему банкоматов Чили. Для этого они инсценировали длительный процесс приема на работу, сопровождавшийся видеоинтервью, чтобы убедить одного сотрудника загрузить и запустить вредоносное ПО. Время, усилия и навыки, затрачиваемые на spear phishing, вознаграждаются значительно большей вероятностью успеха по сравнению с простым фишингом. Это также делает spear phishing относительно дорогим. Однако если значительная часть работы будет автоматизирована с помощью искусственного интеллекта, то можно будет проводить атаки с помощью spear-phishing более эффективно и масштабно.

ИИ и киберзащита

Киберсоревнование, по-видимому, благоприятствует нападению. Иными словами, при равных ресурсах, выделяемых на нападение и защиту, атакующий, как правило, одерживает верх. Потенциальное использование ИИ для усиления наступательных кибер-операций только еще больше усложняет ситуацию с киберзащитой. Однако, как и в других областях военной конкуренции, ИИ работает по обе стороны улицы и способен помочь как обороне, так и наступлению. Как это делается?

Когда кибер-атака осуществляется на ряд конкретных целей, она оставляет после себя криминалистические артефакты или цифровые улики, созданные в ходе атаки. При атаке злоумышленник обычно сначала проводит разведку для выявления слабых мест. Атакующий использует эти слабые места при осуществлении атаки.

Большинство современных средств защиты оптимизированы против известных угроз. Для повышения эффективности киберзащиты необходимо собирать информацию о предыдущих атаках на другие, похожие цели, которая может быть использована для поражения будущих попыток взлома защищаемой системы. Сложные системы киберзащиты основаны на сборе большого количества данных, которые служат сырьем для анализа больших данных. Это очень трудоемкая работа, требующая талантов высококвалифицированных специалистов. Некоторые эксперты считают, что сочетание ИИ и машинного обучения может позволить киберзащитникам не только учиться на предыдущих атаках, но и выявлять аномальное поведение в киберпространстве, чтобы предотвратить еще неизвестные угрозы. Например, анализ больших данных может использоваться для определения базовых параметров сетевого трафика и взаимодействия машин. Эта базовая информация может быть использована с помощью машинного обучения для выявления аномалий в трафике с целью обнаружения ранних признаков вражеского зондирования или готовящейся или готовящейся атаки. Это может позволить ИИ выявлять и блокировать новые атаки, проводить судебно-медицинскую экспертизу, а также осуществлять ремонт или исправления в системе защиты до того, как злоумышленник сможет инициировать модифицированную последующую атаку. И он может делать это со скоростью, которую человек не сможет превзойти, поддерживая свои оборонительные усилия в течение длительного периода времени.

Агентство перспективных оборонных исследовательских проектов США (DARPA), подразделение Пентагона, занимающееся исследованиями и разработками в области передовых технологий, работает над использованием достижений в области аналитики больших данных и машинного обучения для усиления киберзащиты. Программа DARPA под названием Cyber Hunting at Scale (CHASE) объединяет компьютерную автоматизацию и передовые алгоритмы и скорости обработки данных для отслеживания больших объемов данных в режиме реального времени, что позволяет киберзащитникам выявлять сложные атаки, которые иначе могли бы остаться скрытыми среди потока данных, поступающих в систему. Другими словами, ИИ позволяет защите изучать и анализировать гораздо больший процент поступающих данных, чем это было бы возможно. Если усилия DARPA оправдаются, они значительно усилят защиту от более традиционных форм атак, таких как широко распространенные вредоносные программы, фишинг, атаки типа "отказ в обслуживании", а также APT.

Однако использование аналитики больших данных в качестве ключевого элемента киберзащиты сопряжено с рядом проблем, поскольку требует доступа к огромным объемам данных и связанным с ними наборам данных. Это создает уязвимость, поскольку злоумышленник может получить доступ к данным и манипулировать ими, тем самым испортив машинное обучение и созданный на его основе ИИ.

Логистика

Сочетание искусственного интеллекта и аддитивного производства может произвести революцию в военной логистике как в отношении перемещения грузов, так и в отношении сокращения запасов. Коммерческий сектор является ведущим в демонстрации того, что возможно. Например, железнодорожная промышленность США создает сеть связанных с Интернетом датчиков колес и путей вагонов, индикаторов скорости, а также визуальных и акустических датчиков, встроенных в тормоза, рельсы, стрелки и ручные планшеты. Эта сеть генерирует большое количество данных о движении поездов по всей стране. Эти данные, проходя через систему машинного обучения на основе анализа больших данных, расширяют возможности искусственного интеллекта в управлении железнодорожным движением. Данные о местоположении поездов и состоянии путей по всей стране анализируются и используются для корректировки маршрутов тысяч поездов в режиме реального времени. В ходе испытаний система смогла направить около 8000 поездов, курсирующих в 23 штатах, в условиях многократного отключения путей, не потребовав остановки ни одного поезда. Подобные улучшения в военных логистических потоках представляются возможными, по крайней мере, в мирное время и в безопасных тыловых районах во время войны.

Другой коммерческий бизнес, Amazon, показывает, как достижения в области аналитики больших данных и машинного обучения, особенно в сочетании с робототехникой, могут улучшить логистику. Компания Amazon хорошо известна тем, что создает модели покупательского поведения своих клиентов, изучая их заказы, поиск товаров, списки желаний и возвраты, чтобы предсказать, что клиент может купить в следующий раз. Крупномасштабное позиционирование складских запасов на основе ожидаемого спроса значительно повысило эффективность. Спрос военных подразделений на поставки в хаотичных ситуациях военного времени, вероятно, будет гораздо сложнее смоделировать, используя подход Amazon; однако военные организации в мирное время могут повысить эффективность логистики, переняв некоторые из лучших практик компании.

Amazon также использует искусственный интеллект для управления роботами, перемещающими товары на складах. Компания изучает возможности использования в грузовиках для доставки товаров аддитивного производства (3D-печати) для печати товаров клиентов по пути доставки, что позволит снизить затраты на хранение и транспортировку и сократить время доставки. Последствия для военной логистики очевидны.

Что касается логистики в военное время, военные могут извлечь пользу из усилий коммерческих розничных компаний по использованию ИИ для преодоления периодов резких колебаний спроса. Например, сеть магазинов бытовой техники Home Depot использует анализ прогнозирования неблагоприятных погодных условий для определения и размещения ключевых пунктов снабжения непосредственно за пределами зон вероятного воздействия урагана. Эти усилия также позволяют прогнозировать изменения спроса после шторма на срок до шести недель и более.