Глава 9. Искусственная борьба
На эту тему не было написано ничего, что можно было бы считать решающим, и, соответственно, мы повсюду находим людей с механическим гением, большой общей остротой и разборчивостью, которые без колебаний называют автомат чистой машиной, не связанной с человеческим участием в ее движениях, и, следовательно, вне всякого сравнения, самым удивительным из изобретений человечества.
-Эдгар Аллан По, "Шахматист Маэльцель", 1836 (курсив в оригинале)
Мир будущего будет все более требовательной борьбой с ограничениями нашего интеллекта, а не удобным гамаком, в котором мы можем лежать, чтобы нас ждали наши роботы-рабы.
-Норберт Винер, Бог и Голем, Инк., 1964 г.
В своем специальном докладе о будущем работы в апреле 2021 года журнал "Экономист" обратился к тем, кто беспокоится о неравенстве и сокращении возможностей трудоустройства для работников: "Со времен зари капитализма люди сетовали на мир труда, всегда считая, что прошлое было лучше настоящего и что с рабочими того времени обращались исключительно плохо".
Страхи по поводу автоматизации с помощью искусственного интеллекта особенно раздуты, а "популярные представления о мире труда во многом ошибочны". Далее в отчете приводится четкое утверждение о производительности труда: "На самом деле, снижая издержки производства, автоматизация может создать больший спрос на товары и услуги, способствуя развитию рабочих мест, которые трудно автоматизировать. Экономике может понадобиться меньше кассиров в супермаркетах, но больше массажистов".
Общая оценка доклада: "Светлое будущее для мира труда".
Компания McKinsey, занимающаяся управленческим консалтингом, высказала аналогичный вывод в начале 2022 года в рамках своего стратегического партнерства с ежегодным Всемирным экономическим форумом в Давосе:
Для многих представителей трудовых коллективов мира перемены иногда воспринимаются как угроза, особенно когда речь идет о технологиях. Это часто сочетается с опасениями, что автоматизация заменит людей. Однако, если взглянуть на ситуацию сквозь призму газетных заголовков, можно убедиться в обратном: технологии Четвертой промышленной революции (4IR) способствуют повышению производительности и росту производства и выпуска продукции на зрелых и новых площадках. Эти технологии создают все новые и новые рабочие места, которые преобразуют производство и помогают построить полноценную, полезную и устойчивую карьеру.
The Economist и McKinsey сформулировали мнения многих технологических предпринимателей и экспертов о том, что опасения по поводу ИИ и автоматизации преувеличены. Исследовательский центр Pew Research Center опросил ученых и технологических лидеров и привел высказывания более ста из них, причем подавляющее большинство заявило, что, несмотря на отрицательные стороны, ИИ принесет широкие экономические и общественные выгоды.
Согласно преобладающей точке зрения, на этом пути возможны некоторые сбои - например, в виде потери рабочих мест, - но такие издержки перехода неизбежны. По словам одного из экспертов, процитированных Pew Research Center, "в ближайшие 12 лет ИИ позволит всем видам профессий выполнять свою работу более эффективно, особенно тем, которые связаны со "спасением жизни": индивидуализированная медицина, охрана порядка, даже ведение войны (где атаки будут сосредоточены на выведении из строя инфраструктуры и меньше на убийстве вражеских комбатантов и гражданских лиц)". Тот же человек также признал: "Конечно, будут и отрицательные стороны: рост безработицы на некоторых "рутинных" работах (например, водители транспорта, работники общественного питания, роботы и автоматизация и т.д.)".
Но нам не стоит слишком беспокоиться об этих минусах, ведь у нас есть те же технологические предприниматели, которые могут облегчить это бремя своей филантропией. Как сказал Билл Гейтс на Всемирном экономическом форуме 2008 года, у этих успешных людей есть возможность делать добро, одновременно принося пользу своему бизнесу, помогая менее удачливым с помощью новых продуктов и технологий. Он заявил, что "задача состоит в том, чтобы создать систему, в которой рыночные стимулы, включая прибыль и признание, будут стимулировать изменения", с целью "улучшить жизнь тех, кто не в полной мере пользуется преимуществами рыночных сил". Он назвал эту систему "креативным капитализмом" и поставил перед всеми филантропическую цель "заняться проектом креативного капитализма в следующем году" как способом облегчения мировых проблем.
В этой главе мы будем доказывать, что это видение почти неумолимых выгод от новых технологий, включая интеллектуальные машины, под руководством талантливых предпринимателей, является иллюзией - иллюзией ИИ. Подобно убежденности Лессепса в том, что каналы принесут пользу инвесторам и мировой торговле, это видение коренится в идеях, но оно получает дополнительный импульс, поскольку обогащает и расширяет возможности элиты, направляющей технологии на автоматизацию и наблюдение.
Даже представление цифровых возможностей в терминах интеллектуальных машин является бесполезным аспектом этого видения. Цифровые технологии имеют общее назначение и могут быть разработаны разными способами. При определении направления их развития мы должны сосредоточиться на том, насколько они полезны для достижения человеческих целей - то, что мы будем называть "полезностью машины". Поощрение использования машин и алгоритмов для дополнения человеческих возможностей и расширения прав и возможностей людей в прошлом приводило к прорывным инновациям с высокой полезностью машин. Напротив, увлечение машинным интеллектом способствует массовому сбору данных, бесправию работников и граждан, а также стремлению автоматизировать работу, даже если это не более чем "мягкая" автоматизация, то есть с незначительными преимуществами в плане производительности. Не случайно автоматизация и масштабный сбор данных обогащают тех, кто контролирует цифровые технологии.
С поля мечты искусственного интеллекта
Люди вправе радоваться развитию цифровых технологий. Новые возможности машин могут значительно расширить круг наших задач и изменить к лучшему многие аспекты нашей жизни. Кроме того, уже достигнуты огромные успехи. Например, Generative Pre-trained Transformer 3 (GPT-3), выпущенный в 2020 году компанией OpenAI, и ChatGPT, выпущенный в 2022 году той же компанией, представляют собой системы обработки естественного языка с замечательными возможностями. Уже обученные и оптимизированные на огромных объемах текстовых данных из Интернета, эти программы могут генерировать почти человекоподобные статьи, включая поэзию; общаться на типичном человеческом языке; и, что самое впечатляющее, превращать инструкции на естественном языке в компьютерный код.
Программные программы имеют простую логику. Программа, или алгоритм, - это рецепт, который предписывает машине принять заранее определенный набор входных данных и выполнить ряд пошаговых вычислений. Например, ткацкий станок Жаккарда принимал на вход несколько перфокарт и активировал элегантно разработанный механический процесс, который перемещал луч и ткал ткань для создания рисунков, указанных в картах. Разные карточки создавали разные узоры, некоторые из них были поразительно сложными.
Современные компьютеры называются "цифровыми", поскольку входные данные представлены в дискретной форме, принимая одно из конечного набора значений (чаще всего в виде нулей и единиц). Но они разделяют с жаккардовым ткацким станком общий принцип: они реализуют именно ту последовательность вычислений или действий, которая задана программистом.
Что относится к искусственному интеллекту? К сожалению, общепринятого определения не существует. Некоторые эксперты определяют искусственный интеллект как машины или алгоритмы, демонстрирующие "разумное поведение" или "высокоуровневые возможности", хотя о том, что это такое , часто можно спорить. Другие дают определения, мотивированные такими программами, как GPT-3, приравнивая интеллектуальные машины к тем, которые имеют цели, наблюдают за окружающей средой, получают другие входные данные и пытаются достичь своих целей. Например, GPT-3 получает различные цели в разных приложениях и пытается выполнить их как можно успешнее.
Каким бы ни было точное определение современного машинного интеллекта, очевидно, что новые цифровые алгоритмы находят широкое применение во всех областях нашей жизни. Вместо того, чтобы пытаться дать арбитраж между различными определениями машинного интеллекта, мы будем использовать термин "современный ИИ", чтобы отразить преобладающий в настоящее время подход в этой области.
Применение цифровых технологий в производственном процессе - например, на станках с числовым программным управлением - возникло задолго до появления современного ИИ. Основные прорывы в вычислительной технике за последние семьдесят лет произошли благодаря поиску способов выполнения задач с помощью программного обеспечения в таких областях, как подготовка документов, управление базами данных, бухгалтерский учет и контроль запасов. Программное обеспечение также может создавать новые производственные возможности. При проектировании с помощью компьютера оно повышает точность и простоту выполнения работниками проектных задач. Оно делает работу кассиров и других сотрудников, работающих с потребителями, потенциально более продуктивной. Оно также позволяет автоматизировать производство.