Не обманывайтесь монументальными технологическими достижениями человечества. Общие взгляды могут так же легко заманить нас в ловушку. Компании делают те инвестиции, которые, по мнению руководства, лучше всего подходят для получения прибыли. Если компания устанавливает, скажем, новые компьютеры, это должно означать, что рост доходов, который они приносят, с лихвой компенсирует затраты. Но в мире, где наши действия определяются общим видением, нет никакой гарантии, что это действительно так. Если все убеждены, что технологии искусственного интеллекта необходимы, то бизнес будет инвестировать в искусственный интеллект, даже если существуют альтернативные способы организации производства, которые могут быть более выгодными. Аналогично, если большинство исследователей работают над определенным способом развития машинного интеллекта, другие могут верно или даже слепо следовать по их стопам.
Эти вопросы становятся еще более значимыми, когда мы имеем дело с технологиями "общего назначения", такими как электричество или компьютеры. Технологии общего назначения представляют собой платформу, на которой могут быть созданы бесчисленные приложения, потенциально приносящие выгоды, но иногда и затраты для многих секторов и групп людей. Эти платформы также допускают самые разные траектории развития.
Электричество, например, было не только более дешевым источником энергии; оно также открыло дорогу новым товарам, таким как радиоприемники, бытовая техника, кино и телевизоры. Появились новые электрические машины. Это позволило коренным образом реорганизовать фабрики: появилось лучшее освещение, специальные источники питания для отдельных машин и новые точные и технические задачи в производственном процессе. Развитие производства на основе электроэнергии повысило спрос на сырье и другие промышленные ресурсы, такие как химикаты и ископаемое топливо, а также розничной торговли и транспортных услуг. Они также способствовали появлению новых продуктов, включая новые пластмассы, красители, металлы и транспортные средства, которые затем использовались в других отраслях промышленности. Электроэнергия также открыла путь к гораздо более высоким уровням загрязнения окружающей среды в результате промышленного производства.
Хотя технологии общего назначения можно развивать разными способами, как только общее видение фиксируется в определенном направлении, людям становится трудно вырваться из-под его контроля и исследовать различные траектории, которые могут быть социально более выгодными. С большинством людей, которых затрагивают эти решения, не советуются. Это создает естественную тенденцию к тому, что направление прогресса будет социально предвзятым - в пользу влиятельных лиц, принимающих решения с доминирующим видением, и против тех, кто не имеет права голоса.
Примите решение Коммунистической партии Китая о введении системы социального кредита, которая собирает данные о частных лицах, предприятиях и государственных учреждениях, чтобы отслеживать их благонадежность и соблюдение ими правил. Начатая на местном уровне в 2009 году, она стремится к тому, чтобы вносить людей и компании в черные списки на национальном уровне за их высказывания или посты в социальных сетях, которые идут вразрез с предпочтениями партии. Это решение, которое влияет на жизнь 1,4 миллиарда человек, было принято несколькими лидерами партии. Не было проведено никаких консультаций с теми, чья свобода слова и объединений, образование, государственные должности, возможность путешествовать и даже вероятность получения государственных услуг и жилья теперь определяются системой.
Такое происходит не только в диктатурах. В 2018 году основатель и генеральный директор Facebook Марк Цукерберг объявил, что алгоритм компании будет изменен, чтобы дать пользователям "значимые социальные взаимодействия". На практике это означало, что алгоритм платформы будет отдавать приоритет постам других пользователей, особенно семьи и друзей, а не новостным организациям и известным брендам. Цель изменения заключалась в повышении вовлеченности пользователей, поскольку было установлено, что люди с большей вероятностью будут обращать внимание на сообщения своих знакомых и нажимать на них. Основным последствием изменения стало усиление дезинформации и политической поляризации, поскольку ложь и вводящие в заблуждение сообщения быстро распространялись от пользователя к пользователю. Изменение затронуло не только , насчитывающий на тот момент почти 2,5 миллиарда пользователей компании; еще миллиарды людей, не пользующихся платформой, были косвенно затронуты политическими последствиями дезинформации. Решение было принято Цукербергом, главным операционным директором компании Шерил Сандберг и несколькими другими ведущими инженерами и руководителями. С пользователями Facebook и гражданами затронутых демократических стран не советовались.
Что побудило китайскую компартию и Facebook принять такие решения? Ни в том, ни в другом случае они не были продиктованы природой науки и технологии. Они также не были очевидным следующим шагом в каком-то неумолимом марше прогресса. В обоих случаях можно увидеть губительную роль интересов - подавить оппозицию или увеличить доходы от рекламы. Не менее важным было видение их лидерами того, как должны быть организованы сообщества и что должно быть приоритетным. Но еще более важным было то, как технология использовалась для контроля: над политическими взглядами населения в китайском случае и над данными людей и их социальной активностью в случае Facebook.
Это тот момент, который, имея в своем распоряжении дополнительные 275 лет человеческой истории, Г. Г. Уэллс уловил, а Фрэнсис Бэкон упустил: технология - это контроль, причем не только над природой, но часто и над другими людьми. Дело не только в том, что технологические изменения приносят одним больше пользы, чем другим. Более фундаментально то, что различные способы организации производства обогащают и расширяют возможности одних людей и лишают возможности других.
Эти же соображения не менее важны для направления инноваций в других контекстах. Владельцы предприятий и менеджеры часто хотят автоматизировать или усилить наблюдение, поскольку это позволяет им усилить контроль над производственным процессом, сэкономить на оплате труда и ослабить власть труда. Это желание затем выливается в стимулы к тому, чтобы направить инновации на автоматизацию и видеонаблюдение, даже если развитие других, более дружественных для работников технологий могло бы увеличить объем производства и проложить путь к общему процветанию.
В таких случаях общество, может быть, даже охвачено видением, которое благоприятствует влиятельным лицам. Такие видения помогают лидерам бизнеса и технологий реализовывать планы, направленные на увеличение их богатства, политической власти или статуса. Представители элиты могут убедить себя, что все, что хорошо для них, также лучше для общего блага. Они могут даже поверить, что любые страдания, которые порождает их добродетельный путь, — это цена, которую стоит заплатить за прогресс, особенно когда те, кто несет основную тяжесть затрат, лишены голоса. Вдохновленные эгоистическим видением, лидеры отрицают, что существует множество различных путей с совершенно разными последствиями. Они могут даже впасть в ярость, когда им указывают на альтернативы.
Нет ли средства против губительных видений, навязанных людям без их согласия? Нет ли барьера против социальной предвзятости технологий? Замкнуты ли мы в постоянном цикле, когда одно самоуверенное видение за другим формирует наше будущее, игнорируя ущерб?
Нет. Есть основания для надежды, потому что история также учит нас, что более инклюзивное видение, которое прислушивается к более широкому кругу голосов и признает влияние на всех, возможно. Общее процветание более вероятно, когда противодействующие силы привлекают предпринимателей и технологических лидеров к ответственности и продвигают производственные методы и инновации в более благоприятном для работников направлении.
Инклюзивное видение не позволяет избежать некоторых из самых сложных вопросов, таких как, например, оправдывают ли выгоды, которые получают одни, затраты, которые несут другие. Но они гарантируют, что социальные решения будут учитывать все их последствия, не заставляя молчать тех, кто не получает выгоды.
Выберем ли мы в итоге эгоистичное, узкое видение или что-то более инклюзивное — это тоже выбор. Результат зависит от того, есть ли противодействующие силы и могут ли те, кто не находится в коридорах власти, организоваться и услышать свой голос. Если мы хотим не попасть в ловушку видения властных элит, мы должны найти способы противопоставить власти альтернативные источники силы и противостоять эгоизму с помощью более инклюзивного видения. К сожалению, в век искусственного интеллекта это становится все труднее.
Огонь, на этот раз
Жизнь ранних людей была изменена огнем. В южноафриканской пещере Сварткранс самые ранние раскопанные слои показывают кости древних гоминид, которые были съедены хищниками - большими кошками или медведями. Для тогдашних хищников люди, должно быть, казались легкой добычей. Темные места в пещерах были особенно опасными, и наши предки избегали их. Затем в этой пещере появляются первые свидетельства огня - слой древесного угля возрастом около миллиона лет. Впоследствии археологическая летопись показывает полную противоположность: с этого времени кости в основном принадлежат нечеловеческим животным. Контроль над огнем дал гомининам возможность захватывать и удерживать пещеры, что позволило им одержать верх над другими хищниками.