Э. Юдковски подвел итог дискуссии о сингулярности: «Если вы экстраполируете нынешнюю версию закона Мура на время после возникновения превосходящего человека ИИ, чтобы сделать предсказания о 2099 годе, то тогда вы будете противоречить строгим версиям „горизонта событий“ (который говорит о том, что вы не можете делать предсказаний, поскольку вы будете пытаться перехитрить превосходящий человека ум) и сильной версии „взрыва интеллекта“ (поскольку прогресс станет происходить быстрее, когда умы, превосходящие человеческие, и нанотехнологии перенесут прогресс на скорость работы транзисторов, а не нейронов).

Я нахожу очень тревожащим то, что эти три школы мысли смешались в одну кучу под маркой „сингулярности“. Ясное мышление требует различий.

Если вам интересно, что из перечисленного было исходным значением термина „сингулярность“, то это был „горизонт событий“ Вернора Винджа, который и ввел этот термин».

Многие люди связывают с сингулярностью самые позитивные ожидания.

Теоретически сингулярность означает возможность бессмертия, неограниченного расширения сознания и полеты на другие планеты.

Соответственно, возникло следующее упрощенное представление о сингулярности: достаточно дождаться ее, а потом искусственный интеллект решит все наши проблемы, возникнут экономика изобилия и рай на Земле. Неудивительно, что такие представления вызвали ответную реакцию: высказывались предположения, что идеи о сингулярности — это своего рода религия для фанатов техники.

Тем не менее мы полагаем, что фазовый переход неизбежен, и он произойдет в XXI веке.

Закон Мура

Источником оптимистичных прогнозов о возможности создания ИИ и о грядущем радикальном улучшении многих технологий является закон Мура. Он был сформулирован основателем компании Intel Гордоном Муром в 1965 году и гласил, что число транзисторов на чипе будет удваиваться каждый год.

С течением времени суть предсказания неоднократно менялась: речь шла о числе транзисторов на кристалле, о плотности транзисторов, о тактовой частоте, о суммарной производительности микропроцессора. Кроме того, период удвоения варьировался между одним и двумя годами.

В результате был выведен некий обобщенный закон Мура — прогресс в области компьютеров характеризуется экспоненциальным ростом с периодом удвоения около 1–2 лет. Аналоги этого закона действуют в биотехнологиях.

Главным проявлением закона Мура является постоянное снижение стоимости вычислений.

Именно в этом смысле закон Мура использует Р. Курцвейл, когда говорит, что к 2029 году за 1000 долларов можно будет купить компьютер, сравнимый по производительности с человеческим мозгом. Именно к этому времени компьютер сможет пройти тест Тьюринга, доказывая наличие у него разума в человеческом понимании слова. Это будет достигнуто путем компьютерной симуляции мозга человека. В 2045 году, по мнению Курцвейла, вся Земля начнет превращаться в один гигантский компьютер, и постепенно этот процесс может распространиться на всю Вселенную.

Хорошим мерилом силы закона Мура является прогресс в области суперкомпьютеров, на который влияет много составляющих: стоимость вычислений, количество средств, доступных для покупки, эффективность обмена данными между процессорами. В этой области мы наблюдаем период удвоения порядка 12–18 месяцев.

Футурологический статус закона Мура постоянно меняется от предложения к плану.

В 1965 году это было предсказание на 10 лет вперед, основанное как на экстраполяции за предыдущие 5 лет, так и на модели, которая предсказывала наиболее выгодные формы оптимизации числа транзисторов на чипе. А через 10 лет он стал одновременно и эмпирическим обобщением прошлого опыта, и планом на будущее.

Закон Мура продолжает действовать уже 45 лет, сохраняя свои основные параметры.

Однако в 1980-е годы Р. Курцвейл и еще ряд футурологов предположили, что закон Мура будет действовать неограниченно долго — по крайней мере до тех пор, пока это позволяют физические пределы миниатюризации.

Даже если закон Мура перестанет работать, мощность суперкомпьютеров может продолжать экспоненциальный рост. Это возможно по трем причинам:

за счет увеличения той доли от общего числа произведенных процессоров, которая будет использоваться в самом мощном компьютере;

за счет роста числа фабрик, производящих процессоры, вплоть до предела, который позволяет мировая экономика;

за счет накопления числа процессоров, созданных в прошлые годы.

По предварительным оценкам, мировая экономика могла бы производить 10 млрд процессоров в год, что на один-два порядка больше современных показателей.

За 10 лет накопилось бы 10¹¹ процессоров. Мощность самых мощных современных процессоров составляет около 1 терафлопса (видеокарты типа Fermi). Таким образом, за десяток-другой лет можно было бы создать компьютер производительностью 10²³ флопс, даже если действие закона Мура остановится уже сегодня.

Аналоги закона Мура в других областях

Рост объемов жестких дисков

Он тоже подчиняется закону удвоения с периодом примерно в 2 года. Интересно, что несмотря на различие технологий производства микросхем и жестких дисков, период удвоения производительности, а также размер минимальных элементов (каналов транзисторов и магнитных доменов соответственно) у них совпадают в каждый момент.

Закон Мура — это в первую очередь закон миниатюризации, который отражает способность манипулировать все меньшими предметами в промышленных масштабах.

Развитие нанотехнологий

Можно прямо экстраполировать закон Мура вплоть до овладения нанотехнологиями. В 2010 году успешно применялась технология создания микросхем в 32 нанометра (нм), в то время как среднее межатомное расстояние в кристаллической решетке кремния составляет 0,54 нм.

Однако закон Мура относится к площади элементов, а не к их линейным размерам. Период уменьшения линейных размеров в 2 раза равен примерно 4 годам, что видно из следующего рисунка.

К 2030–2040 годам закон Мура приведет к тому, что линейные размеры транзисторов приблизятся к размерам одного атома.

Энергопотребление

Мировое энергопотребление удваивается каждые 35 лет. В настоящий момент оно составляет 15 тераватт (это равно мощности 15 000 типичных атомных электростанций).

Расшифровка генома

Стоимость расшифровки генома человека каждый год снижается в 2 раза и даже чуть быстрее. В конце 1990-х годов проект «Геном человека» стоил около 3 млрд долларов, а к 2012 стоимость расшифровки генома человека составляет несколько десятков тысяч долларов.

Принципиально новые технологии обладают даже большей скоростью роста, чем предсказывает закон Мура.

Экономика

Робин Хансен считает, что в настоящее время период удвоения мировой экономики составляет примерно 15 лет. Однако вскоре, по его мнению, произойдет очередной переход, и «следующая сингулярность» создаст экономику, которая будет удваиваться с периодом от недели до месяца. В 2008 году в статье «Экономика сингулярности» Хансен описал ее основные черты: она будет распространяться в Солнечной системе, использовать солнечную и термоядерную энергию, основываться на роботах, способных к саморепликации, и управляться ИИ.

Согласно Хансену, периоды экспоненциального роста в ходе истории сменяют друг друга, и каждый следующий имеет гораздо меньший период удвоения. Каждый период роста завершается кризисом.