Соединенные Штаты - не Китай, и эта деятельность должна была быть скрыта от средств массовой информации и даже от большинства законодателей. Когда появились разоблачения Сноудена, возникла мощная реакция против неправомерных стратегий АНБ и других агентств по сбору данных. Но этого оказалось недостаточно, чтобы остановить большую часть слежки. Возможно, еще хуже то, что частные компании, такие как Clearview AI, начали собирать изображения лиц сотен миллионов пользователей и продавать эту информацию правоохранительным органам, практически без надзора со стороны гражданского общества или других институтов. В этом нет ничего плохого, по словам основателя и генерального директора Clearview, который заявил: "Мы считаем, что это лучшее использование технологии".
Шпионские программы Pegasus, шпионаж АНБ и технология распознавания лиц Clearview иллюстрируют более глубокую проблему. Появившись на свет, цифровые инструменты для обширного сбора данных будут использоваться многими, если не большинством, правительств для подавления оппозиции и лучшего контроля за своими гражданами. Они укрепят недемократические режимы и позволят им гораздо эффективнее противостоять оппозиции. Они даже могут создать скользкую дорожку для демократических правительств, которые со временем станут более авторитарными.
Демократия умирает во тьме. Но она борется и при свете, который дает современный искусственный интеллект.
Наблюдение и направление развития технологий
От первоначальной эйфории по поводу демократизирующего потенциала Интернета и социальных сетей некоторые сделали полярно противоположный вывод: цифровые инструменты по своей сути антидемократичны. По словам историка Юваля Ноя Харари, "технологии благоприятствуют тирании".
Обе эти бинарные точки зрения ошибочны. Цифровые технологии не являются ни продемократическими, ни антидемократическими. Не было никакой необходимости в разработке технологий ИИ для того, чтобы дать правительствам возможность контролировать СМИ, цензурировать информацию и репрессировать своих граждан. Все это было выбором направления развития технологий.
Мы увидели, что цифровые технологии, которые по своей природе являются практически универсальными, можно было бы использовать для повышения полезности машин - например, путем создания новых рабочих задач или новых платформ, которые увеличивали бы возможности человека. Именно видение и бизнес-модель крупных технологических компаний подтолкнули к тому, чтобы в первую очередь сосредоточиться на контроле за работниками и уничтожении рабочих мест посредством автоматизации. То же самое верно и в отношении использования ИИ в качестве инструмента в руках авторитарных и некоторых якобы демократических правительств.
Мечты о том, что интернет и цифровые технологии дадут гражданам возможность противостоять диктатуре, не совсем сюрреалистичны. Цифровые технологии можно использовать для шифрования, что делает невозможным для властей прослушивание частных сообщений. Такие сервисы, как VPN, могут использоваться для противодействия цензуре. Поисковые системы, такие как Tor, в настоящее время невозможно расшифровать (насколько нам известно) и, следовательно, они обеспечивают более высокий уровень конфиденциальности и безопасности. Тем не менее, первые надежды на демократизацию цифровых технологий были разрушены, потому что технологический мир направил свои усилия туда, где лежат деньги и власть - на государственную цензуру.
Таким образом, технологическое сообщество выбрало особый путь - низкую дорогу, которая усиливает сбор данных и слежку. Хотя достижения в крупномасштабной обработке данных с использованием инструментов машинного обучения сыграли важную роль в этих усилиях, настоящим секретным соусом в слежке правительств и компаний являются огромные объемы данных.
Когда технологии ИИ усиливают авторитарные импульсы, они создают порочный круг. По мере того, как правительства становятся все более авторитарными, растет их потребность в ИИ для отслеживания и контроля своего населения, и это толкает ИИ дальше в направлении превращения в полноценную технологию мониторинга.
С 2014 года, например, наблюдается огромный рост спроса со стороны местных китайских правительств на технологии ИИ, обеспечивающие распознавание лиц и другие виды мониторинга. Этот спрос, по-видимому, отчасти вызван местными политическими волнениями. Политики хотят усилить охрану порядка и наблюдение, когда видят, что в их регионе назревает недовольство или протестная активность. Во второй половине 2010-х годов массовые протесты, особенно направленные против национального правительства, были практически невозможны, хотя локальные протесты все еще имели место, и некоторое время, как мы видели ранее в этой главе, они даже координировались в социальных сетях.
Однако к этому моменту инструменты ИИ уже были на стороне властей, а не протестующих. После внедрения технологий ИИ местные власти стали лучше справляться с подавлением и предотвращением протестов. Кстати, несмотря на то, что центральное правительство Китая и местные власти готовы нанимать большое количество полицейских, увеличение инвестиций в ИИ, похоже, уменьшает необходимость использования рабочей силы для наблюдения и даже фактического подавления протестующих.
Что еще более поразительно, этот спрос со стороны местных органов власти влияет на направление инноваций. Данные о вселенной ИИ-стартапов в Китае показывают, что государственный спрос на технологии мониторинга коренным образом меняет последующие инновации. ИИ-фирмы, заключающие контракты с местными органами власти Китая, начинают все больше и больше смещать свои исследования в сторону распознавания лиц и других технологий слежения. Возможно, в результате этих стимулов Китай стал мировым лидером в области технологий наблюдения, таких как распознавание лиц, но отстает в других областях, включая обработку естественного языка, навыки языкового мышления и абстрактные рассуждения.
По оценкам международных экспертов, качество исследований в области ИИ в Китае все еще значительно отстает от американского по всем параметрам. Однако есть один аспект, в котором Китай имеет преимущество: данные.
Китайские исследователи работают с гораздо большими объемами данных и без ограничений конфиденциальности, которые часто ограничивают тип данных, к которым могут получить доступ западные исследователи. Влияние контрактов местных органов власти на направление исследований в области ИИ особенно ярко проявляется, когда местные органы власти делятся огромными объемами данных в своих контрактах на закупки. Имея в своем распоряжении огромное количество данных без каких-либо ограничений и высокий спрос на технологии наблюдения, стартапы ИИ смогли протестировать и разработать мощные приложения, способные отслеживать, контролировать и управлять гражданами.
Здесь существует ловушка технологии наблюдения: могущественные и богатые деньгами правительства, стремящиеся подавить инакомыслие, требуют технологий ИИ для контроля над своим населением. Чем больше они их требуют, тем больше исследователей их производят. Чем больше ИИ движется в этом репрессивном направлении, тем более привлекательным он становится для авторитарных (или желающих стать авторитарными) правительств.
Действительно, китайские стартапы теперь экспортируют свои продукты ИИ, направленные на мониторинг и репрессии, другим недемократическим правительствам. Китайский технологический гигант Huawei, один из главных бенефициаров неограниченного доступа к данным и финансовых стимулов для развития технологий шпионажа, экспортировал эти инструменты в пятьдесят других стран. Мы увидели, как автоматизация на основе ИИ, разработанная в технологически развитых странах, повлияет на остальной мир, причем для большинства работников это может иметь значительные потенциальные негативные последствия. То же самое касается и слежки на основе ИИ: большинству граждан, где бы они ни находились в мире, становится все труднее избежать репрессий.
Социальные сети и скрепки
Интернет-цензура и даже высокотехнологичные шпионские программы могут ничего не сказать о потенциале социальных сетей как инструмента для улучшения политического дискурса и координации оппозиции самым худшим режимам в мире. То, что несколько диктатур использовали новые технологии для подавления своего населения, не должно никого удивлять. То, что Соединенные Штаты делают то же самое, также понятно, если вспомнить давнюю традицию беззакония их служб безопасности, которая только усилилась после "войны с террором". Возможно, решение заключается в том, чтобы удвоить усилия социальных сетей и позволить им иметь больше возможностей для общения и свободных сообщений, чтобы ярче освещать злоупотребления. Увы, нынешний путь социальных сетей с искусственным интеллектом представляется почти таким же губительным для демократии и прав человека, как и цензура в Интернете.
Притча о скрепках - любимый инструмент компьютерщиков и философов для подчеркивания опасностей, которые может представлять сверхинтеллектуальный ИИ, если его цели не будут полностью совпадать с целями человечества. Мысленный эксперимент предполагает наличие неудержимо мощной интеллектуальной машины, которая получает инструкции производить больше скрепок, а затем использует свои значительные возможности для достижения этой цели, придумывая новые методы превращения всего мира в скрепки. Когда речь идет о влиянии ИИ на политику, он может превратить наши институты в скрепки не благодаря своим превосходным возможностям, а из-за своей посредственности.