Когнитивная робототехника может вскоре изменить эту ситуацию. Подобно тому как мать-природа сначала создала бессознательные формы обработки и представления информации, а феноменальный опыт появился совсем недавно, можно утверждать, что вторая эволюция разума также должна будет повторить бессознательную фазу "снизу вверх". Эмоции, сенсомоторная интеграция и бессознательные самомодели должны быть первыми. С другой стороны, одно можно сказать с уверенностью: Плавный и надежный тип сверхтонкой самопрезентации, основанный на динамике молекулярного уровня, который у человека управляет непрекращающейся самостабилизирующей активностью гомеостатической системы ствола мозга и гипоталамуса, еще долго будет недоступен. Тонкости телесной и эмоциональной самости, качественное богатство и динамическое изящество человеческой разновидности обладания сознательным "я" еще долго будут недоступны ни одной машине. Причина в том, что микрофункциональная структура нашей эмоциональной Я-модели просто слишком мелкозерниста и, возможно, даже математически неразрешима. И по той же причине, с точки зрения технологической возможности, переносимость человеческих PSM крайне низка. Самомодели возникают на основе элементарных форм биорегуляции, сложных химических и иммунологических контуров - а этого у машин просто нет. Время, когда у роботов появятся биологические жидкости и что-то хотя бы отдаленно напоминающее сложную гомеодинамику человеческого мозга, конечно, далеко. Или нет?

Новая дисциплина - гибридная биоробототехника - может в скором времени изменить эту ситуацию, взяв за основу аппаратное обеспечение из того, что может предложить мать-природа. Пожалуйста, вспомните наше более подробное обсуждение силы или слабости сознательных систем, не удовлетворяющих ограничению 11 (ограничение адаптивности) в разделе 3.2.11: различие между естественными и искусственными системами не является исчерпывающим и исключительным. Постбиотические системы не попадают ни в одну из этих категорий. Они могут быть гибридными биороботами, использующими органическое, генетически сконструированное оборудование, или полуискусственными информационно-процессорными системами, использующими биоморфные архитектуры. В то же время они могут быть подвержены квазиэволюционному оптимизационному процессу индивидуального развития и групповой эволюции. Если их ПСМ действительно закреплены в биологическом аппаратном обеспечении, все может быть иначе. В настоящее время мы вынуждены признать, что оба наших вопроса, касающиеся номологической и технологической возможности небиологического сознания, и постбиотических ПСМ и ПМИР в частности, остаются просто открытыми. Они представляют собой эмпирические, а не философские проблемы. Однако вспомните, пожалуйста, что одним из главных уроков, которые мы должны были извлечь в ходе этого исследования, было то, что сознание и самосознание - это градуированные явления. Существуют степени удовлетворения ограничений и степени феноменальности. Будут и степени феноменальной самости. Поэтому, как и в случае с животными и многими примитивными организмами, окружающими нас на этой планете, весьма вероятно, что в скором времени в нашем окружении появятся искусственные или постбиотические системы, обладающие простыми самомоделями и более слабыми формами сознательного опыта. Один из аспектов, который будет объединять эти простые, небиологические субъекты с нами, - это способность страдать.

Пришло время выложить карты на стол. Существует философская проблема, которой пренебрегли и которую нельзя просто натурализовать, постепенно передав ее в руки эмпирических наук о разуме. В конце концов, теория разума должна быть рационально интегрирована с нормативными соображениями. Философия разума должна быть дополнена моральной, а со временем и политической философией. Выше я указал, что создание технической модели полноценного, перспективно организованного сознательного опыта представляется предельной технологической утопической мечтой. Но это может быть и кошмаром. Как философ я категорически против попыток реализовать Большую Технологическую Мечту, но по этическим соображениям. Почему? Проще говоря, мы можем резко увеличить количество страданий, несчастий и неразберихи на планете. И мы можем сделать это без одновременного увеличения количества удовольствия и радости. Еще более глубокий и общий момент заключается в том, что при более внимательном рассмотрении совершенно неясно, является ли биологическая форма сознания, к которой эволюция привела нашу планету, желательной формой опыта, действительным благом, которое следует просто продолжать умножать без лишних размышлений. Позвольте мне объяснить.

Возможно, теоретическим слепым пятном современной философии разума является вопрос о сознательном страдании. Тысячи страниц написаны о цветовых квалиа или содержании мысли, но почти нет теоретических работ, посвященных вездесущим феноменальным состояниям, таким как физическая боль или простая повседневная грусть ("субклиническая депрессия"), или феноменальному содержанию, связанному с паникой, отчаянием и меланхолией, не говоря уже о сознательном переживании смертности или потери собственного достоинства. Возможно, за этой когнитивной скотомой стоят более глубокие эволюционные причины, но я не собираюсь рассматривать этот вопрос здесь. Этический вопрос имеет большее значение. Если осмелиться присмотреться к реальной феноменологии биологических систем на нашей планете, то множество различных видов осознанного страдания - это, по крайней мере, такая же доминирующая черта, как и цветовое зрение или осознанное мышление, которые появились совсем недавно. Эволюция - это не то, что нужно прославлять. Один из бесчисленных способов взглянуть на биологическую эволюцию на нашей планете - это процесс, который создал расширяющийся океан страданий и путаницы там, где их раньше не было. Поскольку не только простое число индивидуальных сознательных субъектов, но и размерность пространств их феноменальных состояний постоянно увеличивается, этот океан также становится глубже. Очевидно, что процесс в целом - это то, что еще не закончилось. Мы не должны ускорять его без необходимости.

Поскольку здесь не место для развернутой этической дискуссии об искусственной феноменальности, позвольте мне привести два конкретных примера. Что бы вы сказали, если бы кто-то пришел и сказал: "Эй, мы хотим генетически спроектировать умственно отсталых человеческих младенцев! В целях научного прогресса нам нужны младенцы с определенными когнитивными и эмоциональными нарушениями, чтобы изучать их постнатальное психологическое развитие - нам срочно нужно финансирование для этого важного и инновационного вида исследований!" Вы, конечно, подумаете, что это не только абсурдная и ужасающая, но и опасная идея. Надеюсь, она не прошла бы ни один комитет по этике в демократическом мире. Однако сегодняшние комитеты по этике не видят, как первые машины, удовлетворяющие минимально достаточному набору ограничений для осознанного опыта, могли бы быть такими же, как умственно отсталые младенцы. Они тоже будут страдать от всевозможных функциональных и репрезентативных недостатков. Но теперь они также субъективно ощущали бы эти недостатки. Кроме того, у них не было бы политического лобби - ни одного представителя в комитете по этике.

Если бы у них была прозрачная модель мира, встроенная в виртуальное окно присутствия, тогда реальность предстала бы перед ними. Они были бы минимально сознательными. Если бы у них, как у продвинутых роботов, даже была стабильная телесная самомодель, то они могли бы ощущать сенсорную боль как свою собственную, включая все последствия плохой человеческой инженерии. Но особенно если их постбиотическая ПСМ действительно закреплена в биологическом оборудовании, все может быть гораздо хуже. Если бы у них была эмоциональная Я-модель, то они могли бы по-настоящему страдать - возможно, даже в такой степени интенсивности или качественного богатства, которую мы, их создатели, не можем себе представить, потому что она нам совершенно чужда. Если бы, кроме того, они обладали когнитивной Я-моделью, то потенциально могли бы не только осознавать свою причудливую ситуацию, но и интеллектуально страдать от того, что у них никогда не было ничего похожего на "достоинство", столь важное для их создателей. Они могли бы сознательно представлять тот очевидный факт, что являются лишь второсортными субъектами, используемыми в качестве обменных экспериментальных инструментов каким-то другим типом самомоделирующейся системы, которая, очевидно, не знает, что делает, и, должно быть, давно потеряла контроль над своими собственными действиями. Можете ли вы представить, каково это - быть таким умственно отсталым феноменальным клоном первого поколения? Или же вы можете представить себе, каково это - "прийти в себя" в качестве более продвинутого искусственного субъекта, только чтобы обнаружить, что, хотя вы и обладаете отчетливым чувством собственного достоинства, вы - всего лишь товар, научный инструмент, который никогда не создавался и, конечно, не должен рассматриваться как самоцель?

На данный момент можно было бы сказать гораздо больше. Позвольте мне лишь выделить то, что представляется главным вопросом: Страдание начинается на уровне ПСМ. Вы не можете сознательно страдать, не имея глобально доступной Я-модели. ПСМ - это решающий нейрокомпьютерный инструмент не только для развития множества новых когнитивных и социальных навыков, но и для того, чтобы заставить любую сильно сознательную систему функционально и репрезентативно присвоить свой собственный распад, свои собственные неудачи и внутренние конфликты. Феноменальное присвоение идет параллельно с функциональным присвоением. Эволюция не только удивительно эффективна, но и безжалостна и жестока по отношению к индивидуальному организму. Боль и любой другой нефизический вид страдания, вообще любое репрезентативное состояние, характеризующееся "негативной валентностью" и интегрированное в ПСМ, теперь феноменально принадлежит ей. Теперь это неизбежно и прозрачно - мое собственное страдание. Мелодрама, а также потенциальная трагедия эго начинаются на уровне прозрачного самомоделирования. Поэтому мы должны запретить все попытки создания (или даже риск создания) искусственных и постбиотических ПСМ в серьезных академических исследованиях.