Конечно, гораздо проще свалить вину за несправедливость на ошибочные алгоритмы, чем осмысленно бороться с тем, что они рассказывают о нас и нашем обществе. Во многих случаях наши отражения, которые создают эти машины, глубоко нелестны. В качестве примера можно вспомнить Тэй, чат-бота с искусственным интеллектом, выпущенного компанией Microsoft в 2016 году, который был создан для общения с людьми в Twitter и учился на основе своих действий с пользователями. Уже через шестнадцать часов она начала изрыгать расистские и сексистские оскорбления, отрицать Холокост и заявлять о поддержке Гитлера. Еще более показательной была нейросеть, обученная на изображениях прошлых президентов США, которая летом 2016 года предсказала победу Дональда Трампа на предстоящих выборах. В течение нескольких месяцев этот факт приводился в качестве примера того, как легко ИИ может ввести в заблуждение. Как отметил один из исследователей Google, за несколько дней до выборов, поскольку в наборе данных не было женщин-президентов, "ИИ не смог сделать вывод, что пол не является релевантной характеристикой для модели". Учитывая исход тех выборов и то, как часто разговоры о них возвращались к роли женоненавистничества и двойных стандартов, можно утверждать, что алгоритм был прав, предполагая, что пол действительно является релевантной характеристикой. Машина знала нас лучше, чем мы сами.

Для Арендт проблема заключалась не в том, что мы продолжали создавать вещи по своему образу и подобию, а в том, что мы наделяли эти артефакты некой трансцендентной силой. Вместо того чтобы сосредоточиться на том, как использовать науку и технологии для улучшения условий жизни человека, мы стали верить, что наши инструменты могут соединить нас с высшими истинами. Желание отправить человека в космос стало для нее метафорой этой мечты о научной трансцендентности. Она пыталась представить себе, как выглядит Земля и земная человеческая деятельность, находясь так далеко за ее поверхностью:

Если мы посмотрим с этой точки вниз на происходящее на земле и на различные виды деятельности людей, то есть применим архимедову точку к себе, то эти виды деятельности действительно покажутся нам не более чем "явным поведением", которое мы можем изучать с помощью тех же методов, что и поведение крыс. Если смотреть с достаточного расстояния, то автомобили, на которых мы ездим и которые, как мы знаем, построили сами, будут выглядеть так, как будто они, по выражению Гейзенберга, "являются такой же неотъемлемой частью нас самих, как раковина улитки - для ее обитателя". Вся наша гордость за то, что мы можем сделать, исчезнет, превратившись в некую мутацию человеческой расы; вся технология, рассматриваемая с этой точки зрения, на самом деле уже не выглядит "как результат сознательных человеческих усилий по расширению материальных возможностей человека, а скорее как крупномасштабный биологический процесс". В этих условиях речь и повседневный язык действительно перестали бы быть осмысленным высказыванием, которое выходит за рамки поведения, даже если оно его только выражает, и его гораздо лучше было бы заменить предельным и сам по себе бессмысленным формализмом математических знаков.

Проблема заключается в том, что точка зрения, столь далекая от человеческой природы, не может объяснить человеческую деятельность. Взгляд на Землю с Архимедовой точки заставляет нас рассматривать наши изобретения не как исторический выбор, а как часть неумолимого эволюционного процесса, который полностью детерминирован и телеологичен, подобно повествованию Курцвейла о Сингулярности. Мы сами неизбежно становимся лишь винтиками в этой машине, неспособными толком объяснить свои действия, поскольку единственным верным языком является язык квантификации, который машины понимают гораздо лучше, чем мы.

Примерно об этом предупреждал Джарон Ланье в своем ответе на предложение Криса Андерсона отказаться от научного метода и обратиться за ответами к алгоритмам. "Смысл научной теории не в том, чтобы ангел оценил ее", - писал Ланье. "Ее цель - постижение человеком. Наука без поиска теорий означает науку без людей". В конечном итоге мы отказываемся от своей обязанности создавать смысл на основе наших эмпирических наблюдений, чтобы определить для себя, что такое справедливость, мораль и качество жизни, - от этой задачи мы отказываемся каждый раз, когда забываем, что смысл - это неявная человеческая категория, которую нельзя свести к количественной оценке. Забыть эту истину - значит использовать наши инструменты в ущерб нашим собственным интересам, создавать машины по нашему образу и подобию, которые не делают ничего, кроме как дегуманизируют нас". Арендт цитирует Кафку, который лаконично подытоживает дилемму: человек, по его словам, "нашел архимедову точку, но использовал ее против себя; кажется, что ему было позволено найти ее только при этом условии".

 

Глава 13

Самые удачные метафоры становятся невидимыми благодаря повсеместному распространению. То же самое можно сказать и об идеологии, которая, становясь все более интегрированной в культуру, теряет свои контуры и характерные очертания и окончательно растворяется в чистой атмосфере. Хотя цифровые технологии составляют основную архитектуру информационного века, о них редко говорят как о системе мышления. Ее неспособность придерживаться идей или убеждений, предпочтений или мнений часто ошибочно воспринимается как отсутствие философии, а не как описание ее постулатов. Центральным столпом этой идеологии является ее концепция бытия, которую можно описать как онтологию пустоты - великого опустошения качеств, содержания и смысла. Эта онтология питает ее эпистемологию, которая утверждает, что знание заключается не в самих понятиях, а в отношениях, которые их образуют, и которые могут быть обнаружены искусственными сетями, не имеющими никакого истинного знания о том, что они открывают. А поскольку глобальные сети охватывают все больше и больше наших человеческих отношений, становится все труднее говорить о нас самих - узлах этого огромного мозга - как о живых агентах с убеждениями, предпочтениями и мнениями.

Термин "вирусные медиа" был придуман в 1994 году критиком Дугласом Рашкоффом, который утверждал, что интернет стал "продолжением живого организма", охватившего весь мир и радикально ускорившего распространение идей и культуры. К тому времени идея о том, что законы биосферы могут быть применимы к сфере данных, уже стала само собой разумеющейся благодаря теории мемов - термину, который придумал Ричард Докинз, чтобы показать, что идеи и культурные явления распространяются среди населения примерно так же, как гены. iPod - это мемы, как и юбки для пуделей, коммунизм и протестантская реформация. Главным преимуществом этой метафоры стала ее способность объяснить, как артефакты и идеологии воспроизводят себя без участия сознательных субъектов. Как вирусы заражают носителей без их ведома или согласия, так и мемы имеют единственную "цель" - самосохранение и распространение, которой они достигают, цепляясь за носителя и захватывая его репродуктивный механизм для своих целей. То, что эта полностью пассивная концепция человеческой культуры требует неловкого перераспределения полномочий в пользу самих идей - воображения, что у мемов есть "цели" и "задачи", - обычно объясняется как фигура речи.

Когда Рашкофф начал писать о "вирусных медиа", интернет был еще в самом разгаре, и он, как и многие в то время, считал, что этот высокосетевой мир принесет пользу "людям, лишенным традиционной политической власти". Система, которая не знает о личности или статусе пользователя, теоретически должна быть радикально демократичной. Теоретически она должна нивелировать существующие иерархии и создать равные условия для игры, позволяя самым мощным идеям процветать, подобно тому как самые успешные гены процветают под равнодушным взглядом природы. Однако к 2019 году Рашкофф стал настроен пессимистично. Оказалось, что слепая логика сети не так слепа, как кажется, - точнее, ею могут манипулировать те, кто уже обладает огромными ресурсами. "Сегодня методы партизанских медиаактивистов "снизу вверх" находятся в руках самых богатых корпораций, политиков и пропагандистов мира", - пишет Рашкофф в своей книге Team Human. Более того, оказывается, что слепота системы не гарантирует ее рассудительности. В условиях жесткой конкуренции в СМИ показатели успеха стали чисто количественными - просмотры страниц, клики, доли - и поэтому потенциал распространения часто ставится выше достоинств или достоверности контента. "Неважно, на чьей стороне находится человек, важно, чтобы мем повлиял на него и спровоцировал на его повторение", - пишет Рашкофф. На самом деле самые успешные мемы вовсе не апеллируют к нашему интеллекту. Как распространение нового вируса зависит от организма, который еще не выработал эффективный иммунный ответ, так и самые эффективные мемы - это те, которые обходят стороной рациональный разум и вместо этого запускают "наши самые автоматические импульсы". Эта логика заложена в алгоритмы социальных сетей, которые воспроизводят контент, вызывающий самые экстремальные реакции, и которые в сочетании со слепым и неумолимым диктатом свободного рынка способствуют тому, что один журналист назвал "глобальными соревнованиями за внимание в режиме реального времени".

Весной 2020 года, когда вирус Covid-19 начал распространяться по Соединенным Штатам, Пол Эли написал в журнале The New Yorker о том, как сильно наша культура за последние два десятилетия отвыкла от языка и образов вирусов. По мере того как индустрия за индустрией, от развлечений до журналистики и издательского дела, становились озабоченными тем, как использовать силу размножения и распространения, мы стали рассматривать вирусность как нечто, к чему нужно стремиться. То, что мы использовали терминологию, унаследованную от эпидемиологии, - "кривая", "точка перегиба", - было для нас давно забытой истиной. Вместо этого мы прославляли и стремились подражать тем, кто обладал силой, способной сделать информацию вирусной. Как отметил Эли, термин "инфлюэнсеры" - те мастера вирусности, которые извлекают выгоду из своего присутствия в социальных сетях, - является этимологическим отростком слова "инфлюэнца". Подобно тому, как Сьюзен Сонтаг предостерегала от соблазна говорить о таких болезнях, как рак и СПИД, в образных выражениях, Эли считает, что повсеместное распространение вирусной метафоры вызывает беспокойство. "Возможно, наша любовь к вирусу как метафоре мешает нам воспринимать вирусы как потенциально опасные, даже смертоносные биологические явления", - пишет он. "В свою очередь, наша несклонность воспринимать вирусы как буквальные явления, возможно, мешает нам настаивать на соблюдении стандартов и практик, которые могли бы предотвратить их распространение".