На самом деле, эта дискуссия иллюстрирует более широкую проблему. Статистические подходы, используемые для распознавания образов и прогнозирования, плохо подходят для отражения сути многих человеческих навыков. Начнем с того, что эти подходы испытывают трудности с ситуационной природой интеллекта, поскольку точную ситуацию трудно определить и закодировать.
Другой извечной проблемой статистических подходов является "чрезмерная подгонка", которая обычно определяется как использование большего количества параметров, чем оправдано для подгонки некоторой эмпирической зависимости. Опасение заключается в том, что чрезмерная подгонка заставляет статистическую модель учитывать нерелевантные аспекты данных, что приводит к неточным прогнозам и выводам. Статистики разработали множество методов предотвращения чрезмерной подгонки - например, разработка алгоритмов на выборке, отличной от той, на которой они применяются. Тем не менее, чрезмерная подгонка остается бельмом на глазу статистических подходов, поскольку она фундаментально связана с недостатками современного подхода к ИИ: отсутствием теории моделируемых явлений.
Чтобы объяснить эту проблему, полезно иметь более широкое представление о проблеме избыточной подгонки, основанной на использовании нерелевантных или непостоянных характеристик приложения. Рассмотрим задачу отличия волков от хаски. Хотя люди прекрасно справляются с этой задачей, она оказывается сложной для ИИ. Когда некоторым алгоритмам удалось добиться хороших результатов, позже стало ясно, что это произошло благодаря чрезмерной подгонке: хаски распознавались на фоне городской среды, например, красивых газонов и пожарных гидрантов, а волки - на фоне природы, например, снежных гор. Это нерелевантные характеристики в двух фундаментальных смыслах. Во-первых, люди не полагаются на этот фон для определения или различения животных. Во-вторых, что еще более тревожно, по мере потепления климата среда обитания волков может измениться, или волков придется идентифицировать в других условиях. Другими словами, поскольку фон не является определяющей характеристикой волков, любой подход, опирающийся на него, приведет к ошибочным прогнозам по мере развития мира или изменения контекста.
Избыточная подгонка особенно опасна для машинного интеллекта, поскольку она создает ложное ощущение успеха, в то время как на самом деле машина работает плохо. Например, статистическая связь между двумя переменными, скажем, температурой и ВВП на душу населения в разных странах, не обязательно указывает на то, что климат оказывает значительное влияние на экономическое развитие. Это может быть просто результат того, как европейский колониализм воздействовал на территории с разными климатическими условиями и в разных частях земного шара в ходе конкретного исторического процесса. Но без правильной теории легко спутать причинно-следственные связи и корреляцию, и машинное обучение часто делает это.
Проблема чрезмерной подгонки становится намного хуже, когда алгоритмы имеют дело с социально значимой ситуацией, в которой люди реагируют на новую информацию. Реакция людей будет означать, что соответствующий контекст часто меняется, или он может измениться из-за действий, которые они предпринимают на основе информации, предоставляемой алгоритмами. Приведем экономическую иллюстрацию. Алгоритм может заметить ошибки, которые человек совершает при поиске работы - например, ищет профессии, где мало вакансий по сравнению с количеством людей, подающих заявления, - и может попытаться исправить их. Процедуры, разработанные против избыточной подгонки, такие как разделение обучающей и тестирующей выборок, не устраняют соответствующую проблему избыточной подгонки: обе выборки могут быть адаптированы к конкретной среде, в которой существует много незаполненных вакансий в розничной торговле. Но это может измениться со временем именно потому, что мы имеем дело с социальной ситуацией, в которой люди реагируют на имеющиеся данные. Например, по мере того, как алгоритмы будут побуждать людей подавать заявки, вакансии в розничной торговле могут стать переполненными и перестать быть такими привлекательными. Без полного понимания этого ситуационного и социального аспекта человеческого познания и того, как динамично меняется поведение, чрезмерная подгонка будет продолжать мешать машинному интеллекту.
Есть и другие тревожные последствия отсутствия у ИИ социального интеллекта. Хотя он использует данные, полученные от большого сообщества пользователей, и таким образом может включать социальное измерение данных, при существующих подходах он не использует тот факт, что человеческое понимание основано на избирательном подражании, общении и аргументации между людьми. В результате многие попытки автоматизации, как представляется, скорее уменьшают, чем увеличивают гибкость, которой хорошо обученные работники могут достичь, быстро и плавно реагируя на изменяющиеся обстоятельства, часто используя навыки и взгляды, которым они учатся у своих коллег.
Конечно, эти аргументы не исключают возможности того, что совершенно новый подход сможет решить проблему AGI в ближайшем будущем. Однако пока нет никаких признаков того, что мы близки к созданию такого подхода. Это также не основная область, в которую инвестируются средства на ИИ. Промышленность по-прежнему сосредоточена на сборе большого количества данных и автоматизации узких задач на основе методов машинного обучения.
Экономическая проблема от такой бизнес-стратегии очевидна: когда люди не так бесполезны, как иногда предполагается, а умные машины не так умны, как обычно предполагается, мы получаем так себе автоматизацию - все перемещения и мало обещанного повышения производительности. На самом деле, даже сами компании не получают большой выгоды от такой автоматизации, и часть внедрения ИИ может быть вызвана шумихой, как отметил бывший ученый в области ИИ Альберто Ромеро, которого мы цитировали ранее: "Маркетинговая сила ИИ такова, что многие компании используют его, сами не зная зачем. Все хотели попасть на волнорез ИИ".
Современный Паноптикон
Другое популярное использование современного ИИ иллюстрирует, как энтузиазм в отношении автономных технологий вместе с массовым сбором данных выковал весьма специфическое направление развития цифровых технологий и как это снова привело к скромным выгодам для корпораций и значительным потерям для общества и работников.
Использование цифровых инструментов для мониторинга работников не является чем-то новым. Когда социальный психолог и исследователь бизнеса Шошана Зубофф опрашивала работников, переживающих внедрение цифровых технологий в начале 1980-х годов, общим рефреном было усиление контроля со стороны руководства. Как сказал один офисный работник: "ETS [цифровая система учета расходов] стала для руководства средством проверки нас. Они могут отследить любые изменения на поминутной основе, если захотят".
Но ранние усилия меркнут по сравнению с тем, что мы видим сегодня. Amazon, например, собирает огромное количество данных о своих курьерах и работниках складов, которые затем объединяются с алгоритмами для реструктуризации работы таким образом, чтобы увеличить пропускную способность и минимизировать сбои.
Компания, которая является вторым по величине работодателем частного сектора в США, платит более высокую минимальную заработную плату, чем некоторые другие розничные компании, такие как Walmart. Но есть фундаментальный смысл, в котором работа в Amazon не является хорошей работой. Работники должны подчиняться строгому, быстро меняющемуся рабочему распорядку, их постоянно контролируют, чтобы убедиться, что они не делают более длинных или частых перерывов и постоянно прилагают необходимые усилия. Недавние новостные сообщения показывают, что значительная часть работников многих предприятий увольняется за несоответствие трудовым ожиданиям, причем некоторые из этих увольнений, согласно собранным данным, являются автоматическими (хотя Amazon оспаривает факт автоматического увольнения). По словам одного из защитников труда, "одна из вещей, которую мы постоянно слышим от работников, заключается в том, что с ними обращаются как с роботами, потому что они находятся под контролем и наблюдением этих автоматизированных систем".
Паноптикон Джереми Бентама должен был стать моделью не только для тюрем, но и для ранних британских фабрик. Но у начальников восемнадцатого и девятнадцатого веков не было технологий для постоянного наблюдения. У Amazon есть. По словам одного сотрудника из Нью-Джерси, "они практически видят все, что вы делаете, и это им выгодно. Они не ценят тебя как человека. Это унизительно".
Такие условия работы с высоким уровнем контроля не только унизительны, но и опасны. Недавний отчет OSHA показал, что в 2020 году работники складов Amazon получили около 6 серьезных травм на 200 000 отработанных часов, что почти в два раза превышает средний показатель в складской отрасли, а другие исследования показывают еще более высокий уровень травматизма, особенно в пиковые периоды деловой активности, такие как рождественский сезон, когда наблюдение за работниками усиливается. Amazon дополнительно требует от своих сотрудников и подрядчиков, занимающихся доставкой, загрузить и постоянно использовать приложение для отслеживания данных под названием "Mentor", которое позволяет осуществлять более тщательный контроль. Недавно компания объявила о создании дополнительных инструментов искусственного интеллекта для отслеживания работников доставки. FedEx и другие службы доставки также собирают множество данных о своих сотрудниках и используют их для введения жестких ограничений в расписании, что объясняет, почему многие работники службы доставки находятся в постоянной гонке со временем.