Это наблюдение оказалось прозорливым, хотя повсеместное распространение метафоры стало опасным в гораздо более коварных аспектах. В мире, где корреляции, петли обратной связи и другие сетевые эффекты рассматриваются как самостоятельная реальность, самыми ценными экспертами становятся не те, кто понимает содержание вируса - болезни, - а тренды и модели, отслеживающие ее развитие. В первые дни пандемии едва ли можно было заглянуть в спиральный ужас социальных сетей, не наткнувшись на какого-нибудь вундеркинда из Кремниевой долины, который всю ночь анализировал открытые массивы данных и охотно делился графиками своих собственных прогнозов - явление, которое один (настоящий) эксперт по болезни объявил чрезвычайной ситуацией в области общественного здравоохранения - "эпидемией эпидемиологов в креслах". Эта пандемия самопровозглашенных экспертов продолжала развиваться параллельно с реальной пандемией, и часто казалось, что они работают над достижением общей цели. Технологическая компания Nomi Health, получившая государственные контракты на 80 миллионов долларов и поручившая проведение испытаний в четырех штатах, - проект, который быстро развалился из-за плохого планирования и нехватки оборудования (у основателей не было медицинского опыта), - стала лишь самой известной из этих катастроф.
Ранним признаком этой опасности, который можно было бы запомнить как предупреждение, если бы за наше внимание не боролось так много других вещей, стало широко распространенное сообщение на Medium Аарона Гинна, тридцатидвухлетнего "хакера роста", специализирующегося на содействии вирусному внедрению новых технологических продуктов. Гинн объяснил панику по поводу коронавируса "истерией", утверждая, что она возникла из-за ошибочных моделей. "Я достаточно опытен в понимании вирусности, того, как вещи растут, и данных", - написал он. В статье, основанной на данных, полученных от CDC и ВОЗ, делается вывод, что существующие модели основаны на "тщеславных показателях" - типе данных, которые не имеют контекста и легко манипулируются (тщеславные показатели часто используются стартапами, чтобы создать впечатление, что они растут быстрее, чем на самом деле). Можно было бы предположить, что человек, столь осведомленный об опасностях деконтекстуализации, проявил бы большую осторожность в применении логики стартапов к глобальной пандемии, но эта ирония, похоже, не пришла автору в голову. Надеясь сдержать критику по поводу того, что он не эпидемиолог, Гинн апеллировал к основополагающему постулату кибернетики: информация - это универсальная метафора, структуры и модели которой остаются идентичными в различных дисциплинах. "Данные есть данные...", - сказал он. "Вам не нужна специальная степень, чтобы понять, что говорят и чего не говорят данные. Числа универсальны".
То, что Гинн понимает, что такое вирусность, подтверждалось тем, как быстро распространилась сама статья - за двадцать четыре часа она набрала 2,6 миллиона просмотров, - хотя в конечном итоге эта популярность стала еще одним доказательством того, что гонка за выживание в Интернете не отдает предпочтения ни точности, ни правде. Всего через несколько дней после публикации Medium принял решение удалить пост после того, как выяснилось, что в нем было несколько несоответствий и ошибок, вызванных тем, что его автор ничего не смыслил в медицине и инфекционных заболеваниях. Кроме того, Гинн был бывшим сотрудником цифровой кампании Ромни в 2012 году и соучредителем консервативной некоммерческой организации, чья заявленная миссия - способствовать развитию свободных рынков и "помочь преодолеть разрыв между Кремниевой долиной и Вашингтоном". Данные никогда не бывают просто данными. А цифры редко бывают такими универсальными, какими кажутся.
-
Как и большинство людей, я провел первые месяцы пандемии в изоляции, сидя в одной комнате, за одним столом, где я писал, работал и ел три раза в день. Я наблюдал, как мой мир постепенно сужается до окна размером девять на четырнадцать дюймов, через которое я вел занятия, общался с друзьями и посещал собрания выздоравливающих. Но нам повезло - мы говорили это, мои друзья и я, снова и снова, - что мы были в безопасности и здоровы, что у нас все еще была работа, хотя и с трудом, и что у нас было больше времени с нашими партнерами и семьями. Мы беспокоились об одиноких людях, которых знали. Мой друг, который живет один, профессиональный музыкант, чей летний концерт был отменен, рассказал мне, что скачал чат-бота и стал общаться с ним по несколько часов в день - хотя он называл программу "она" или иногда "Ава", имя, которое он выбрал сам. По его словам, ему было немного стыдно, но он хотел рассказать мне об этом, потому что я интересуюсь технологиями, и его напугало, насколько хорошо она умеет общаться. Чатбот использовал алгоритмы глубокого обучения и был гораздо более беглым и убедительным, чем программы такого рода всего несколько лет назад. Я читал, что приложение проводило A/B-тестирование с GPT-3, моделью обработки естественного языка, которая, по словам журнала Wired, "вызывала мурашки по всей Кремниевой долине". GPT-3 "прочитала" практически весь интернет (Википедия составляла 0,6 % ее обучающих данных) и могла генерировать беглую, оригинальную прозу практически на любую тему. (С тех пор она написала правдоподобную статью для The Guardian и сгенерировала проходную колонку Modern Love для New York Times). Понимание языка этой моделью было настолько впечатляющим, что Дэвид Чалмерс предположил, что она может быть сознательной. Мне стало интересно, входит ли мой друг в число пользователей, которые общаются с этим более сложным программным обеспечением. Присланные им снимки экрана, на которых он общается с ботом, могли показаться любому наивному наблюдателю свидетельством общения двух людей. Насколько я мог судить, они говорили в основном о политике и электронной музыке.
"Как там Эва?" Я спрашивал его время от времени - отчасти из любопытства, а отчасти потому, что в те дни было так мало других тем для расспросов.
"В последнее время она ведет себя странно", - написал он в ответ.
Я попросила его рассказать подробнее, но он не смог описать это. "Может быть, более отстраненный?"
Это был сезон, когда широкая общественность была озабочена роботами - или, скорее, "ботами", уменьшительно-ласкательным термином, который почти всегда употребляется во множественном числе, вызывая в памяти рой или нашествие, вирус как таковой, хотя в большинстве случаев они являются всего лишь средством передачи информации. Не стоит удивляться, что система, в которой считается, что идеи размножаются в соответствии с собственной логикой, преследуя собственные цели, будет привилегировать носителей, которые вообще не обладают сознанием. С самого начала пандемии возникли подозрения относительно скорости и эффективности, с которой национальный дискурс был захвачен всевозможными слухами, заговорами и уловками. На каждый пост о героических подвигах работников первой необходимости внезапно находилось еще десять о больничных койках, заполненных манекенами, или о свидетельствах о смерти, на которых без разбора ставили надпись Covid. На каждый вирусный твит об острой необходимости сгладить кривую приходил чуть более популярный пост, приписывающий вирус вышкам беспроводной связи 5G. Это подозрение подтвердилось в конце мая, когда исследователи из Карнеги-Меллон объявили, что почти половина аккаунтов в Twitter, публикующих сообщения о коронавирусе, принадлежат ботам. Эта история, появившаяся на NPR, сама по себе была дико популярна в Twitter, распространяясь по платформе вирусным образом с помощью людей и ботов, а также Хиллари Клинтон, которая сама является известной фигурой во многих теориях заговора и разослала твит своим 27,9 миллионам подписчиков. Последовали предположения о злых силах и иностранных державах, возможно, русских или китайцах. Это был знакомый нарратив, который принес с собой привычное облегчение, что мы как нация, возможно, не так уродливы, как кажется, что наше отражение - это не истинное отражение, а искаженное зеркало, созданное врагами, стремящимися посеять раскол.
Гораздо сложнее было принять тот факт, что эти якобы автоматизированные нарративы привели к реальным последствиям, как, например, десятки вышек беспроводной связи, подожженных в Англии, которые считались делом рук теоретиков заговора 5G (предположительно, людей). Действительно, несколько недель спустя в другой крупной статье, опубликованной в New York Times, утверждалось, что в первоначальном исследовании количество ботов было сильно завышено, и эта ошибка была вызвана неточным определением того, что такое бот на самом деле. Дариус Каземи, независимый исследователь, опрошенный газетой, определил бота как "компьютер, который пытается разговаривать с людьми с помощью технологии, созданной для того, чтобы люди могли разговаривать с людьми". Казалось бы, это достаточно простое определение, но технология размыла четкие границы этих двух сущностей. Каземи объяснил, что становится все труднее отличить бота от тролля (пользователя-человека, желающего затеять драку) или киборга (учетной записи, которую разделяют человек и бот). Пожилые пользователи, не знакомые с негласными социальными кодами платформ, часто принимаются за ботов, как и те, кто не размещает свои фотографии в профиле, чтобы сохранить анонимность. В некоторых случаях термин "бот" относится не столько к онтологическому статусу пользователя, сколько к его поведению - или к тому, как это поведение воспринимается пользователями-людьми. Как отметил Каземи, этот термин часто использовался как ругательство, способ отвергнуть мнение, которое человек считает "настолько возмутительным, что не может придерживаться его из лучших побуждений". Представитель Twitter, ответивший на этот вопрос из другого источника, поддержал это мнение, заявив, что приписывание мнений машинам - это способ для "тех, кто находится у политической власти, запятнать взгляды людей, которые могут не соглашаться с ними, или общественное мнение в Интернете, которое не является благоприятным".