Глава 10. Демократия ломается

История социальных сетей еще не написана, а их влияние не является нейтральным.

-Крис Кокс, руководитель отдела продуктов, Facebook, 2019 год

Если все и всегда вам лгут, то следствием этого будет не то, что вы поверите в эту ложь, а то, что никто уже ничему не верит.

-Ханна Арендт, интервью 1974 года

2 ноября 2021 года звезда китайского тенниса Пэн Шуай написала на сайте социальных сетей Weibo, что ее принудил к сексу высокопоставленный чиновник. Сообщение было удалено в течение двадцати минут и больше не появлялось в китайских социальных сетях. К тому времени, как сообщение было удалено, ряд пользователей сделали скриншоты сообщения, которые попали в зарубежные СМИ. Но доступ к этим зарубежным СМИ также был быстро подвергнут цензуре. В Китае был большой интерес к Пенг Шуай, но мало кто смог увидеть оригинальное сообщение, и не было никакого общественного обсуждения.

Такое быстрое удаление политически чувствительной информации является правилом, а не исключением в Китае, где Интернет и социальные сети находятся под постоянным наблюдением. По сообщениям китайского правительства, только на мониторинг и цензуру онлайн-контента ежегодно тратится около 6,6 миллиардов долларов.

Правительство также вкладывает огромные средства в другие цифровые инструменты и особенно в искусственный интеллект для слежки. Это наиболее заметно в провинции Синьцзян, где систематический сбор данных о мусульманах-уйгурах начался сразу после июльских беспорядков 2009 года, но с 2014 года он усилился. Коммунистическая партия поручила нескольким ведущим технологическим компаниям разработать инструменты для сбора, агрегирования и анализа данных об индивидуальных и домашних привычках, манере общения, работе, расходах и даже хобби, чтобы использовать их в качестве исходных данных для "предиктивной полицейской деятельности" против одиннадцати миллионов жителей провинции, которые считаются потенциальными диссидентами.

Несколько крупных технологических компаний Китая, включая Ant Group (частично принадлежащую Alibaba), телекоммуникационный гигант Huawei и некоторые из крупнейших в мире компаний по разработке искусственного интеллекта, такие как SenseTime, CloudWalk и Megvii, сотрудничали с правительством в разработке инструментов слежки и их внедрении в Синьцзяне. В настоящее время ведутся работы по отслеживанию людей по их ДНК. Технологии искусственного интеллекта, распознающие уйгуров по чертам лица, также используются повсеместно.

То, что началось в Синьцзяне, затем распространилось на остальную часть Китая. Камеры распознавания лиц теперь широко распространены по всей стране, а правительство неуклонно продвигается к внедрению национальной системы социального кредита, которая собирает информацию о физических и юридических лицах для отслеживания их нежелательной и неблагонадежной деятельности. Это, конечно, включает в себя инакомыслие и подрывную критику правительства. Согласно официальному плановому документу, система социального кредита

основана на законах, правилах, стандартах и уставах, опирается на полную сеть, охватывающую кредитные записи членов общества и кредитную инфраструктуру, поддерживается законным применением кредитной информации и системой кредитных услуг, ее неотъемлемыми требованиями являются создание идеи культуры искренности, продвижение искренности и традиционных добродетелей, в качестве механизмов стимулирования используется поощрение сохранения доверия и ограничения против нарушения доверия, а ее целью является повышение честного менталитета и кредитного уровня всего общества.

Ранние версии системы были разработаны совместно с компаниями частного сектора, включая Alibaba, Tencent и компанию по обмену поездками Didi, с предполагаемой целью разграничения приемлемого (для властей) и неприемлемого поведения, а также ограничения мобильности и других действий нарушителей. С 2017 года прототипы системы социального кредитования были внедрены в десятках крупных городов, включая Ханчжоу, Чэнду и Нанкин. По данным Верховного народного суда, "неплательщики [по судебным постановлениям] были ограничены в покупке около 27,3 млн билетов на самолет и почти 6 млн билетов на поезд до настоящего времени (9 июля 2019 года)". Некоторые комментаторы стали рассматривать китайскую модель и ее систему социального кредитования как прототип нового вида "цифровой диктатуры", в которой авторитарное правление поддерживается путем интенсивного наблюдения и сбора данных.

По иронии судьбы это прямо противоположно тому, как, по мнению многих, Интернет и социальные сети повлияют на политический дискурс и демократию. Обещалось, что онлайн-коммуникация высвободит мудрость толпы, поскольку различные точки зрения свободно общаются и соревнуются, позволяя правде восторжествовать. Интернет должен был сделать демократии сильнее и заставить диктатуры обороняться, поскольку он раскрывал информацию о коррупции, репрессиях и злоупотреблениях. Вики, такие как ныне печально известный WikiLeaks, рассматривались как шаги к демократизации журналистики. Социальные медиа могли бы сделать все вышеперечисленное и даже лучше, способствуя открытому политическому дискурсу и координации между гражданами.

Первые свидетельства, похоже, подтверждают это. 17 января 2001 года текстовые сообщения использовались для координации протестов на Филиппинах против Конгресса страны, который решил проигнорировать критические доказательства против президента Джозефа Эстрады в процессе его импичмента. По мере того, как сообщения переходили от одного пользователя к другому, более миллиона человек пришли в центр Манилы, чтобы выразить протест против соучастия конгрессменов в коррупции и преступлениях Эстрады. После того как столица была остановлена, законодатели отменили свое решение, и Эстраде был объявлен импичмент.

Менее чем через десять лет настала очередь социальных сетей. Facebook и Twitter использовались протестующими во время "арабской весны", что помогло свергнуть долгое время правивших автократов Зин эль-Абидина Бен Али в Тунисе и Хосни Мубарака в Египте. Один из лидеров египетских протестов и инженер-компьютерщик Google Ваэль Гоним подытожил как настроение некоторых протестующих, так и оптимизм в мире технологий, сказав в интервью: "Я хочу однажды встретиться с Марком Цукербергом и поблагодарить его. Эта революция началась - ну, большая часть этой революции началась в Facebook. Если вы хотите освободить общество, просто дайте ему Интернет. Если вы хотите иметь свободное общество, просто дайте им Интернет". Соучредитель Twitter принял такую же интерпретацию собственной роли, заявив: "Некоторые твиты могут способствовать позитивным изменениям в репрессированной стране…".

Политики согласились с этим. Государственный секретарь США Хиллари Родэм Клинтон в 2010 году заявила, что свобода интернета станет ключевым столпом ее стратегии по распространению демократии во всем мире.

С такими надеждами, как же мы оказались в мире, где цифровые инструменты являются мощным оружием в руках автократов для подавления информации и инакомыслия, а социальные сети стали очагом дезинформации, которой манипулируют не только авторитарные правительства, но и экстремисты как правого, так и левого толка?

В этой главе мы утверждаем, что пагубное влияние цифровых технологий и ИИ на политику и социальный дискурс не было неизбежным и стало результатом специфического пути развития этих технологий. Как только эти цифровые инструменты начали использоваться в основном для массового сбора и обработки данных, они стали мощным инструментом в руках правительств и компаний, заинтересованных в слежке и манипулировании. По мере того как люди становились все более бесправными, контроль сверху вниз усиливался как в автократических, так и в демократических странах, а новые бизнес-модели, основанные на монетизации и максимизации вовлеченности и возмущения пользователей, процветали.

Система цензуры, оснащенная политическим оружием

В коммунистическом Китае никогда не было легко быть в оппозиции. В 1957 году председатель Мао заявил: "Пусть расцветают сто цветов", разрешив критику коммунистической партии, что многие восприняли как частичное ослабление репрессий, унесших миллионы жизней. Но надежды на то, что это означает более благосклонное отношение к инакомыслию, вскоре развеялись. Мао начал активную "антиправедную" кампанию, а тех, кто прислушался к его предыдущему приглашению и попытался выразить свои критические взгляды, арестовывали, сажали в тюрьмы и пытали. В период с 1957 по 1959 год было казнено не менее пятисот тысяч человек.

Но к концу 1970-х и началу 1980-х годов все выглядело совсем иначе. Мао умер в 1976 году, а сторонники жесткой линии, включая его жену Цзян Цин и трех ее соратников по Коммунистической партии, широко известных как "Банда четырех", проиграли последовавшую борьбу за власть и были отодвинуты на второй план. Дэн Сяопин, который был одним из лидеров революции, успешным генералом во время гражданской войны, архитектором антиправой кампании, генеральным секретарем и вице-премьером, а затем был вычищен Мао, вернулся на сцену и возглавил страну в 1978 году. Дэн вновь заявил о себе как о реформаторе и попытался провести масштабную экономическую реструктуризацию Китая.

В этот период произошло ослабление власти коммунистической партии. Появились новые независимые СМИ, некоторые из которых открыто критиковали партию. В этот период также начались различные низовые движения, включая продемократические студенческие движения и инициативы в сельской местности по защите прав обычных людей от захвата земель.