Благодаря растущей эффективности, масштабируемости и распространению систем ИИ, вряд ли можно считать надуманным, что они будут использоваться для увеличения размера, скорости и сложности атак. Конечно, по мере увеличения числа потенциальных субъектов, способных осуществлять такие атаки, выявить истинный источник атаки может становиться все труднее.
Демократизация разрушения
Распространение передового военного потенциала в сочетании с перспективно низкими барьерами для вступления в конкурентную борьбу на высоком уровне в некоторых новых областях военных действий - например, в кибер- и биологической войне - привело к "демократизации разрушений", в результате которой даже небольшие группы имеют потенциал для нанесения ущерба, значительно превышающего тот, который группы сопоставимого размера были способны нанести всего лишь поколение назад. Как свидетельствуют такие конфликты, как Вторая ливанская война, операции российских "маленьких зеленых человечков" в Украине и рост числа негосударственных атак с использованием ransomware на критически важную экономическую инфраструктуру, разрыв между разрушительным потенциалом государственных и негосударственных сил в последние десятилетия значительно сократился.
Роевые операции становятся возможными благодаря распространению беспилотных наземных, морских и воздушных платформ, управляемых искусственным интеллектом. Доступ к ним становится все более доступным для тех, кто хочет и может заплатить цену. Объем рынка коммерческих беспилотников в 2020 году превысит 22 миллиарда долларов, а некоторые наблюдатели ожидают, что к 2025 году он удвоится.
Дроны становятся все более доступными, а цены на них снижаются, что примерно соответствует нашему опыту с компьютерами. Небольшой винтокрылый беспилотник продается на сайте китайской компании Alibaba по цене около 400 долларов. Изготовленный из углеродного волокна, он использует GPS и инерциальную навигацию для наведения, применяет автономное управление полетом и оснащен тепловым датчиком и гидролокатором. Этот БПЛА также обеспечивает видеосъемку в полном движении и несет килограммовую (2,54 фунта) полезную нагрузку с восемнадцатиминутным запасом прочности. Продажи дронов-квадрокоптеров быстро растут. Точные цифры получить трудно, но, по оценкам, ежегодные продажи потребительских дронов превысили миллионный рубеж. Только в США насчитывается более 120 000 пилотов коммерческих дронов и 800 000 любителей дронов. Та же тенденция прослеживается и в отношении подводных дронов. Относительно дешевый китайский беспилотный подводный аппарат Haiyan несет полезную нагрузку из нескольких датчиков и может двигаться со скоростью четыре узла на расстояние около 650 миль, достигать глубины 1000 метров и поддерживать жизнедеятельность в течение тридцати дней.
Хотя малые державы и негосударственные группы могут счесть слишком дорогостоящей или технически сложной разработку ИИ, способного превратить беспилотники в рой, барьеры для его приобретения не могут быть непреодолимыми. Новые коммерческие алгоритмы ИИ иногда копируются и распространяются в считанные недели. Как это часто бывает с коммерческим программным обеспечением, некоторые из них могут быть приняты для военного использования. И хотя разумно предположить, что алгоритмы, на которых основаны военные системы ИИ, будут тщательно защищены, история кибершпионажа показывает, что решительные попытки проникновения со стороны передовой кибердержавы или даже преступной группы могут увенчаться успехом. Таким образом, небезосновательно предполагать, что сложные системы, управляемые ИИ, могут стать широко доступными. На самом деле, рост возможностей и продаж беспилотников дополняется растущей доступностью автономных систем навигации и управления, а также небольших высококачественных камер, которые могут быть размещены на борту этих дронов. Такие усилия, как Buzz, язык программирования с открытым исходным кодом, специально разработанный для понимания и прогнозирования поведения роя, могут ускорить развитие роя для менее развитых военных и даже негосударственных групп.
Эти тенденции позволяют предположить, что относительно примитивные атаки роя дронов могут быть использованы даже негосударственными группировками, такими как "Хезболла". Атаки роя могут, например, нарушить работу передового пункта вооружения и дозаправки самолетов морской пехоты США (FARP). Склады топлива и боеприпасов на FARP, а также антенны связи и другие "мягкие" цели могут стать привлекательными объектами для беспилотников с относительно небольшой взрывной нагрузкой. Рой из сотен небольших стационарных или винтокрылых БПЛА, вместо того, чтобы пытаться вести точное прицеливание, мог бы ошеломить оборону РВСН, либо представив больше целей, чем защитники могли бы поразить одновременно, либо исчерпав запасы оружия для противодействия рою. Тем не менее, в зависимости от ИИ обороняющихся систем, может оказаться возможным победить атакующий рой с помощью контрроя, примерно так же, как израильтяне смогли сделать с помощью "Железного купола" против палестинских ракетных атак. В этом примере подразделение морской пехоты, защищающее FARP, запускает свой собственный рой, включающий дроны, обладающие большей маневренностью по сравнению с атакующим роем, и перехватывает атакующие дроны до того, как они смогут вывести FARP из строя.
В других операциях роя могут использоваться простые дроны-квадрокоптеры, оснащенные небольшой полезной нагрузкой и датчиками для обнаружения вражеских средств связи в непосредственной близости от них. После обнаружения беспилотный квадрокоптер может подлететь к излучателю связи и самоподрываться. При условии скромных средств защиты, которые должны быть в состоянии обнаружить простой беспилотный квадрокоптер, для успеха атаки может потребоваться целый рой. Если целевой излучатель прекратит передачу до того, как БПЛА взорвется, остальные дроны, больше не чувствуя радиочастотного излучения, могут вернуться в спящее состояние, пока их не активируют датчики.
Другим возможным противодействием этой форме атаки может быть использование защитником дешевых ложных излучателей для отвлечения атакующих от реальных систем связи. Еще одна оборонительная тактика может заключаться в том, чтобы найти сетевую систему связи, варьирующую те излучатели, которые используются в любой момент времени. Включая и выключая системы, обороняющаяся сторона может побудить дроны исчерпать свой относительно небольшой запас топлива. В качестве ответного хода со стороны нападающей стороны беспилотники могут нанести удар по цели, как только она будет идентифицирована, независимо от того, прекратились ли ее излучения. Помимо помощи атакующим дронам в идентификации целей и координации атаки, ИИ также может оказаться полезным, помогая рою отличать истинные излучатели от ложных.
Достижения в области распознавания изображений ИИ также могут позволить осуществлять точное нацеливание даже относительно неискушенным субъектам. Менее чем за десять лет лучшие системы ИИ улучшили свои показатели, правильно классифицировав около 70 процентов представленных им изображений до 98 процентов, превысив человеческий показатель в 95 процентов. Это позволяет предположить, что автономные системы вооружения, такие как беспилотники, могут быть оснащены ИИ, позволяющим им распознавать лицо цели. Последствия отрезвляют. 12 ноября 2017 года на YouTube было опубликовано видео под названием "Slaughterbots". В нем рассказывается о будущем, в котором небольшие беспилотники, оснащенные системами распознавания лиц и зарядами кумулятивной взрывчатки, выискивают и убивают конкретных людей или группы людей, например, тех, кто носит определенную униформу. Подобные атаки могут показаться фантастикой, но, учитывая последние достижения в области ИИ и беспилотников, о которых мы только что рассказали, было бы глупо сбрасывать их со счетов. Эксперт по робототехнике Пол Шарре считает, что «сверхдешевые 3D-печатные мини-дроны могут позволить Соединенным Штатам использовать миллиарды - да, миллиарды - крошечных, похожих на насекомых дронов».
Кровь и сокровища
В армии США есть поговорка: "Никогда не посылайте солдата, когда можно послать пулю". Это в целом верно для западных обществ, которые высоко ценят человеческую жизнь. Переход к профессиональным ("добровольческим") вооруженным силам в ведущих западных державах и в некоторых других военных державах в сочетании с резким снижением рождаемости в обществах с развитой экономикой сделал набор, обучение и удержание военнослужащих все более дорогостоящим предложением. Поскольку военным организациям никогда не хватает финансирования для выполнения всего, что от них требуется, замена войск автономными роботами с поддержкой ИИ становится все более привлекательным предложением. Генерал британской армии в отставке сэр Ричард Баррос сказал об этом прямо: "Вы можете послать своих детей воевать ... и делать ужасные вещи, или вы можете послать свои машины и сохранить своих детей". Он мог бы добавить, что роботы не устают, не болеют и не имеют семей, которые беспокоятся об их благополучии. И, как заметил один бывший высокопоставленный британский офицер, «главное в роботах то, что у них нет пенсий».
ИИ и атаки кибервойск
Прогресс в области ИИ, по-видимому, окажет сильное влияние на киберконкуренцию. Автономное принятие решений в системе заложено в ее программном обеспечении. Чем сложнее среда принятия решений ИИ, тем сложнее, скорее всего, будет программное обеспечение. Системы автономного принятия решений, как правило, имеют, помимо прочего, органические датчики, набор хранимой информации и способность получать и внедрять обновления программного обеспечения. Если эти системы мобильны, они, как правило, имеют возможности точной навигации и определения времени (PNT) и предотвращения столкновений. Они также могут обладать самодиагностикой и элементами аварийной безопасности. Все это создает потенциальные точки входа для проведения кибератак на них. ИИ может повысить шансы успешного взлома автономных систем принятия решений.