Первым важным нововведением в этой работе стала кнопка "Like", которая не только раскрывала гораздо больше информации о предпочтениях пользователей, но и служила эмоциональным сигналом для поощрения более активного участия. Также было введено несколько других архитектурных изменений - например, касающихся того, как работает лента новостей и как пользователи могут оставлять отзывы. Самое главное, алгоритмы искусственного интеллекта начали организовывать ленту новостей каждого пользователя, чтобы привлечь и удержать его внимание и, конечно, разместить рекламу наиболее выгодным образом.
Facebook также начал предлагать рекламодателям новые инструменты, опять же основанные на базовых технологиях искусственного интеллекта. К ним относятся возможность создания пользовательских аудиторий, чтобы объявления отправлялись пользователям с определенными демографическими характеристиками, и возможность формирования похожих аудиторий, которые сам Facebook описывает как "способ, с помощью которого ваши объявления могут достигать новых людей, которые, вероятно, заинтересуются вашим бизнесом, потому что они имеют схожие характеристики с вашими существующими клиентами".
Большим преимуществом социальных сетей перед поисковыми системами, когда речь идет о рекламе, является интенсивное вовлечение. Люди иногда обращают внимание на рекламу, когда ищут товар или делают покупки с помощью таких поисковых систем, как Google, но это короткое вовлечение, и сумма, которую компания может заработать на продаже рекламы, соответственно, ограничена. Если бы люди тратили больше времени на просмотр того, что появляется на их экранах, это означало бы увеличение доходов от рекламы. Работа по увеличению количества "лайков" для сообщений от друзей и знакомых оказалась отличным способом повышения такой вовлеченности.
С первых дней своего существования Facebook играл с психологией людей для достижения этих целей и фактически проводил систематическое тестирование и эксперименты со своими пользователями, чтобы определить, какие типы постов и какие способы их представления вызовут больше эмоций и реакции.
Социальные отношения, особенно внутри групп, всегда чреваты чувством неодобрения, неприятия и зависти. Сегодня существует множество доказательств того, что Facebook вызывает не только возмущение политическим контентом, но и сильные негативные эмоции в других социальных контекстах. Затем он использует все эти эмоции, чтобы побудить людей проводить больше времени на платформе. Сенсационный контент заставляет людей проводить больше времени на платформе, равно как и тревога. Несколько исследований в области социальной психологии показывают, что использование социальных сетей переплетается с чувствами зависти и неадекватности и часто приводит к беспокойству по поводу самооценки.
Например, распространение Facebook на кампусы американских колледжей оказало сильное негативное влияние на психическое здоровье, часто приводя к чувству депрессии. Студенты, чьи кампусы получили доступ к платформе, также стали сообщать о значительно худшей успеваемости, что указывает на то, что эффект не ограничивается эмоциями, а влияет и на поведение вне сети. Facebook мощно монетизирует эти чувства, поскольку и тревога, и стремление получить большее одобрение увеличивают время, которое люди проводят на платформе.
Амбициозный исследовательский проект раскрывает этот вопрос. Исследователи побудили некоторых пользователей Facebook (временно) отказаться от использования платформы, а затем сравнили их использование времени и эмоциональное состояние с членами контрольной группы, которые не получали такого побуждения и продолжали интенсивно пользоваться Facebook. Те, кого побудили прекратить пользоваться Facebook, проводили больше времени за другими социальными занятиями и были значительно счастливее. Но, отражая социальное давление, которое они могли испытывать со стороны сверстников и платформы, пытавшейся их снова привлечь, по окончании исследования они вернулись к Facebook - с худшим психическим состоянием и все такое.
В целях повышения вовлеченности пользователей многие новые функции и алгоритмы Facebook внедрялись быстро и без особого изучения того, как они повлияют на психологию пользователей и дезинформацию на платформе. Общий подход компании и ее инженеров к внедрению новых функций, направленных на повышение вовлеченности пользователей, можно выразить словами "Fuck it, ship it" - выражение, часто используемое сотрудниками компании.
Но это был не просто случай непреднамеренного ущерба на пути к достижению большей вовлеченности. Руководство Facebook было намерено максимизировать вовлеченность пользователей и не хотело, чтобы другие соображения стояли на пути. Сандберг неоднократно настаивала на том, что в Instagram, который был приобретен Facebook в 2012 году с обещаниями, что приложение останется независимым от Facebook и будет принимать собственные бизнес-решения, включая дизайн приложения и рекламу.
Когда после президентских выборов 2020 года в США компания Facebook решила изменить свой алгоритм таким образом, чтобы он не продвигал недостоверные истории и ненадежные сайты, результаты были поразительными. Ненавистнический контент и дезинформация перестали попадать в сеть. Но спустя некоторое время изменения были отменены, и платформа вернулась к привычному режиму работы, в основном потому, что когда компания проверила влияние изменений на вовлеченность, она обнаружила, что, когда люди становились менее раздраженными и спровоцированными, они проводили там меньше времени.
На протяжении всего времени Цукерберг и Сэндберг, к которым позже присоединился Клегг, защищали эти решения на том основании, что платформа не должна ограничивать чью-либо свободу слова. В ответ британский комик Саша Барон Коэн подытожил то, что многие считали проблемой: "Речь идет о предоставлении людям, включая некоторых из самых предосудительных людей на земле, самой большой платформы в истории, чтобы охватить треть планеты".
Антидемократический поворот
Мы не можем понять политическую неразбериху, которую создали социальные сети, не признавая мотив прибыли, основанный на целевой рекламе, который заставляет эти компании ставить во главу угла максимальное привлечение пользователей, а иногда и ярость. Таргетированная реклама, в свою очередь, была бы невозможна без сбора и обработки огромного количества данных.
Мотив прибыли - не единственный фактор, который подтолкнул технологическую индустрию в этом антидемократическом направлении. Не менее важную роль сыграло видение основателей этих компаний, которое мы окрестили иллюзией ИИ.
Демократия, прежде всего, заключается в том, чтобы множество голосов, в том числе голоса простых людей, были услышаны и стали значимыми в направлениях государственной политики. Понятие "публичной сферы", предложенное немецким философом Юргеном Хабермасом, отражает некоторые из основных характеристик здорового демократического дискурса. Хабермас утверждал, что публичная сфера, определяемая как форумы, где люди создают новые ассоциации и обсуждают социальные вопросы и политику, является ключевой для демократической политики. Используя в качестве модели британские кофейни или французские салоны девятнадцатого века, Хабермас предположил, что важнейшей составляющей публичной сферы является возможность, которую она предоставляет людям, свободно участвовать в дебатах по вопросам, представляющим общий интерес, без строгой иерархии, основанной на ранее существовавшем статусе. Таким образом, публичная сфера создает как форум, на котором можно услышать различные мнения, так и плацдарм для влияния этих мнений на политику. Она может быть особенно эффективной, когда позволяет людям взаимодействовать с другими людьми по ряду сквозных вопросов.
В самом начале даже появилась надежда, что онлайн-коммуникации могут породить новую общественную сферу, в которой люди из еще более разнообразных слоев общества, чем в местной политике, смогут свободно взаимодействовать и обмениваться мнениями.
К сожалению, онлайн-демократия не соответствует бизнес-моделям ведущих технологических компаний и иллюзии ИИ. На самом деле, она диаметрально противоположна технократическому подходу, который утверждает, что многие важные решения слишком сложны для обычных людей. В коридорах большинства технологических компаний царит атмосфера, когда гениальные мужчины (а иногда, но не так часто, и женщины) работают, стремясь к общему благу. Вполне естественно, что именно они должны принимать важные решения. При таком подходе политический дискурс масс становится предметом манипуляции и добычи, а не поощрения и защиты.
Таким образом, иллюзия ИИ благоприятствует антидемократическому импульсу несмотря на то, что многие из ее руководителей считают себя левоцентристами и сторонниками демократических институтов и даже Демократической партии. Их поддержка часто коренится в культурных вопросах и удобно обходит стороной жизненно важный строительный блок демократии: активное участие людей в политике. Такое участие особенно не поощряется, когда речь идет об ИИ, поскольку большинство предпринимателей и венчурных капиталистов считают, что люди не понимают эту технологию и неоправданно беспокоятся о ее навязчивом воздействии. Как сказал один венчурный капиталист, "большинство страхов, связанных с искусственным интеллектом, раздуты, а то и вовсе беспочвенны". Решение состоит в том, чтобы игнорировать эти опасения, двигаться вперед и интегрировать искусственный интеллект во все аспекты нашей жизни, потому что "возможно, только когда технология полностью интегрирована в повседневную жизнь и отступает на задний план нашего воображения, люди перестают ее бояться". По сути, такой же подход отстаивал и Марк Цукерберг, когда он сказал журналу Time: "Когда появляется какая-либо технология или инновация и меняет природу чего-либо, всегда находятся люди, которые сетуют на изменения и хотят вернуться к прежнему времени. Но, я имею в виду, я думаю, что это явно позитивно для людей в плане их возможности оставаться на связи с людьми".