Другой аспект иллюзии ИИ - возвышение дезорганизации как добродетели, заключенной в словах "двигайся быстро и ломай вещи", - ускорил этот антидемократический поворот. Под срывом стали понимать любые негативные последствия для других, включая работников, организации гражданского общества, традиционные СМИ и даже демократию. Все это было честной игрой, фактически поощрялось, если это было следствием захватывающих новых технологий и соответствовало увеличению доли рынка и получению прибыли.
Отражение этого антидемократического импульса можно увидеть в собственном исследовании Facebook о том, как пользователи реагируют на негативные и позитивные эмоции друзей в своей ленте новостей. В 2014 году компания провела масштабное внутреннее исследование, манипулируя новостной лентой почти семисот тысяч пользователей, уменьшив на неделю их воздействие как положительных, так и отрицательных эмоций. Неудивительно, что большая подверженность негативным эмоциям и меньшая подверженность позитивным эмоциям повлияли на пользователей, оказав длительное негативное воздействие.
Компания не спрашивала у пользователей никакого разрешения на проведение этого масштабного исследования и даже не пыталась придерживаться общепринятых стандартов научных исследований, где необходимо информированное согласие испытуемых. После того, как некоторые результаты исследования были опубликованы исследователями Facebook и другими в журнале Proceedings of the National Academy of Sciences, главный редактор опубликовал статью с выражением обеспокоенности, поскольку исследование было проведено без информированного согласия и не соответствовало принятым стандартам научных исследований. Google следовал той же схеме в своих попытках расширить объем собираемой информации с помощью Google Books и Google Maps. Компания игнорировала опасения по поводу конфиденциальности и действовала первой, без разрешения и консультаций, надеясь, что все уладится или, по крайней мере, ее свершившийся факт будет принят. Это сработало, по крайней мере, для Google.
Facebook и Google не являются исключительными в этой отрасли. Для технологических компаний сбор огромного количества данных без какого-либо согласия людей, чья информация или фотографии используются, стал обычным делом. Например, в области распознавания изображений многие алгоритмы ИИ обучаются и иногда участвуют в соревнованиях на наборе данных ImageNet, инициатором создания которого был компьютерный ученый, а затем главный научный сотрудник Google Cloud Фей-Фей Ли. Набор данных, содержащий более 15 миллионов изображений, рассортированных по более чем 22 000 категориям, был создан путем сбора частных фотографий, загруженных в различные приложения в Интернете, без разрешения людей, которые сделали эти фотографии или появились на них. В целом это считалось приемлемым в технологической отрасли. По оценке Ли, "в эпоху Интернета мы внезапно столкнулись со взрывом данных об изображениях".
Согласно репортажу в New York Times, Clearview систематически собирала изображения лиц без согласия, стремясь создать прогностические инструменты, позволяющие выявлять нелегальных иммигрантов и людей, склонных к совершению преступлений. Такие стратегии оправдываются тем, что масштабный сбор данных необходим для технологического прогресса. Как подытожил инвестор одной из компаний, занимающихся распознаванием лиц, защита массового сбора данных заключается в том, что "законы должны определять, что является законным, но вы не можете запретить технологии". Конечно, это может привести к антиутопическому будущему или чему-то подобному, но запретить это нельзя".
Истина более нюансирована. Навязывание массовой слежки и сбора данных - не единственный путь технологического прогресса, и его ограничение не означает запрета технологий. Вместо этого мы наблюдаем антидемократическую траекторию, проложенную мотивом прибыли и иллюзией ИИ, которая включает в себя авторитарные правительства и технологические компании, навязывающие свое видение всем остальным.
Дни радио
Возможно, все эти проблемы не являются специфическими для цифровых технологий и искусственного интеллекта. Каждая новая технология коммуникации содержит в себе потенциал для злоупотреблений.
Рассмотрим еще одну из преобразующих коммуникационных технологий двадцатого века: радио. Радио также является технологией общего назначения и, в своем роде, было не менее революционным, чем социальные сети, впервые в истории позволив использовать различные формы развлечений, массовую передачу информации и, конечно же, пропаганду. Технология была разработана вскоре после того, как немецкий физик Генрих Герц доказал существование радиоволн в 1886 году, а первые радиопередатчики были построены итальянским физиком Гульельмо Маркони десять лет спустя. К началу 1900-х годов появились радиопередачи, а в 1920-х годах коммерческое радио получило широкое распространение во многих западных странах. Почти сразу же началась пропаганда и дезинформация. Президент Франклин Д. Рузвельт понимал важность этой технологии и сделал свои беседы у камина в прямом радиоэфире ключевой частью усилий по разъяснению американской общественности своей политики "Нового курса".
Один из первых сторонников Рузвельта был отождествлен с радиопропагандой в Соединенных Штатах: Отец Чарльз Кофлин, римско-католический священник с большими ораторскими способностями. Однако к середине 1930-х годов отец Кофлин выступил против политики Нового курса и основал Национальный союз за социальную справедливость. Его выступления на радио, первоначально транслировавшиеся по сети CBS, были направлены не только на пропаганду антисемитизма, но и на политические идеи. Вскоре отец Кофлин поддерживал в эфире Бенито Муссолини и Адольфа Гитлера.
Сочетание антирузвельтских, фашистских и антисемитских передач Кофлина оказало большое влияние на политику США в 1930-х годах. Недавнее исследование использовало для изучения этого вопроса различия между округами США в силе радиосигналов, определяемые географическими и топологическими препятствиями для передачи. Исследование показало, что радиопропаганда отца Кофлина снизила поддержку политики "Нового курса" и на несколько процентных пунктов уменьшила голоса Рузвельта на президентских выборах 1936 года (хотя и не смогла предотвратить его убедительную победу). Кофлин влиял не только на президентские голоса. В округах, где он непрерывно вещал, чаще открывали местные отделения пронацистского Немецко-американского бунда и меньше поддерживали усилия Америки во Второй мировой войне. Несколько десятилетий спустя они все еще проявляли больше антиеврейских настроений.
То, что отец Кофлин эффективно использовал в Соединенных Штатах, в то же самое время было усовершенствовано в Германии. Нацисты, придя к власти, в значительной степени полагались на радиопропаганду. Гитлеровский министр пропаганды Йозеф Геббельс стал экспертом в использовании радиоэфира для разжигания поддержки нацистской политики и ненависти к еврейскому народу и "большевикам". Сам Геббельс говорил, что "наш способ захвата власти и ее использования был бы немыслим без радио и аэроплана".
Нацисты действительно были весьма эффективны в манипулировании настроениями с помощью радиопередач. Исследуя изменения в силе радиосигналов в разных частях Германии, а также изменения в содержании радиопередач с течением времени, группа исследователей обнаружила мощный эффект от нацистской пропаганды. Эти радиопередачи усиливали антисемитскую деятельность и доносы на евреев в органы власти.
Радиопропаганда экстремистов в итоге была взята под контроль в США и Германии, и то, как это было сделано, показывает различия между социальными медиа и радио. Это также позволяет сделать некоторые выводы о том, как лучше использовать новые коммуникационные технологии.
Проблема в 1930-х годах заключалась в том, что у отца Кофлина была национальная платформа, позволявшая обращаться к миллионам с подстрекательской риторикой. Сегодня проблема в том, что дезинформация распространяется алгоритмами Facebook и других социальных сетей и достигает потенциально миллиардов людей.
Пагубное влияние Кофлина было нейтрализовано, когда администрация Рузвельта решила, что Первая поправка защищает свободу слова, но не право на вещание. Она утверждала, что радиочастотный спектр является общественным достоянием, которое должно регулироваться. С новыми правилами, требующими разрешения на вещание, программы отца Кофлина были вынуждены уйти из эфира. Кофлин продолжал писать и вскоре снова начал вещать, хотя и с более ограниченным доступом и только через отдельные станции. После начала Второй мировой войны его антивоенная и прогерманская пропаганда была еще больше ограничена.
Сегодня на ток-шоу AM много дезинформации и языка ненависти, но они не имеют того охвата, которого достигли национальные передачи отца Кофлина, или той платформы, которую алгоритмы Facebook предоставляют для дезинформации в сети.
Послевоенная реакция Германии на радиопропаганду была еще более всеобъемлющей. Конституция Германии запрещает высказывания, классифицируемые как Volksverhetzung, что означает "разжигание ненависти", а также подстрекательство к насилию или действия, унижающие достоинство определенных слоев населения. Согласно этому закону, отрицание Холокоста и распространение подстрекательской антиеврейской пропаганды находятся вне закона.