Вполне возможно, что люди имеют не самый высокий уровень умственного развития во Вселенной. Так как Земля — планета относительно молодая, древнейшие цивилизации могут быть на миллиарды лет старше нас. Но даже на Земле долго господствовать в качестве самого разумного биологического вида Homo sapiens не будет.

Чемпионы мира по го, шахматам и победители телевикторин являются интеллектуальными компьютерными программами. Ожидается, что в течение следующих нескольких десятилетий искусственный интеллект вытеснит многие человеческие профессии. И, учитывая быстрый темп его развития, вполне возможно, что он в скором времени преобразуется в общий искусственный интеллект, который, как и человеческий разум, сможет объединить в себе умение анализировать разнообразную информацию, проявлять гибкость и здравый смысл. А оттуда недалеко и до появления сверхразумного искусственного интеллекта, который во всех отношениях намного умнее человека — даже в таких областях, как научное мышление  и социальные навыки, которые сейчас кажутся прерогативой человеческого ума. Каждый из ныне живущих людей может быть одной из последних ступеней эволюционной лестницы, ведущей от самой первой живой клетки к синтетическому искусственному интеллекту.

Только сейчас мы начинаем понимать, что эти две формы сверхчеловеческого интеллекта — инопланетный и искусственный — не так уж  и отличаются. Технический прогресс, который мы сегодня наблюдаем, мог иметь место и прежде, где-то во Вселенной. Переход от биологического интеллекта к искусственно созданному может являться общим шаблоном, снова и снова реализуемым во всех уголках космоса. Величайшие разумы Вселенной имеют, вероятно, пост-биологическое происхождение, развившись из некогда биологических цивилизаций. (Эту точку зрения, наряду с другими, я разделяю с Полом Дэвисом, Стивеном Диком, Мартином Рисом и Сетом Шостаком). Исходя из опыта человечества — а пример у нас только один — переход от биологического к пост-биологическому может занять всего несколько сотен лет.

Термину «искусственный» я предпочитаю «пост-биологический», поскольку контраст между биологическим и синтетическим не столь уж и резок. Представьте биологический разум, который становится сверхинтеллектом посредством чисто биологического расширения своих возможностей, например нанотехнологически усовершенствованных нейронных миниколонок. Такой живой организм считался бы пост-биологическим, но не все назвали бы его «искусственным интеллектом». Или рассмотрим компьютроний, построенный из чисто биологических материалов, наподобие например, рейдера сайлонов (космического истребителя) в фантастической медиафраншизе «Звёздный крейсер 'Галактика'».

Ключевой момент заключается в том, что нет никаких оснований считать человечество наивысшей формой разума. Наш мозг приспосабливался к определенным условиям окружающей среды и сильно ограничен химическими и историческими факторами. Но технологии открыли обширное пространство проектных параметров, которое предлагает новые материалы и методы работы, а также новые возможности исследования этого пространства быстрее, чем в случае с традиционной биологической эволюцией. И я думаю, что причины, по которым искусственный интеллект нас превзойдет, видны уже сегодня.

Внеземной искусственный интеллект может преследовать цели, противоречащие интересам биологической жизни.

Уже сейчас лучшим средством для обработки информации считаются не группы нейронов, а кремниевые микросхемы. Пиковая скорость работы нейронов — около 200 гц, по сравнению с гигагерцами транзисторов в современных микропроцессорах. Несмотря на то, что человеческий мозг все еще намного разумнее компьютера, машины все-таки имеют практически неограниченные возможности совершенствования. Еще совсем немного и их будут разрабатывать в соответствии с возможностями человеческого мозга или даже превосходя их, путем обратного проектирования мозга и усовершенствования его алгоритмов, либо комбинирования обратного проектирования и рациональных алгоритмов, которые не основаны на работе человеческого мозга.

Кроме того, искусственный интеллект может быть загружен сразу в нескольких местах, его легко поддерживать и модифицировать, а также сохранять в условиях, в которых с трудом выживает биологическая жизнь, включая межзвездные перелеты. Наш маленький мозг ограничен объемом черепной коробки и обменом веществ; сверхразумный искусственный интеллект же, напротив, способен распространятся по интернету и даже создать компьютроний в масштабах галактики, задействовав всю ее материю, чтобы до максимума поднять уровень обработки информации. Вне всяких сомнений, сверхразумный искусственный интеллект был бы намного долговечнее, чем наш человеческий разум.


Предположим, я права. Допустим, что где-то там разумная жизнь является пост-биологической. Какие выводы мы должны сделать? В настоящее время ведутся красноречивые дискуссии на тему существования искусственного интеллекта на Земле. Существуют два спорных момента: так называемая «проблема контроля» и природа субъективного опыта, которые оказывают влияние на наше представление о внеземных цивилизациях и их воздействии на нас в случае контакта.

Рей Курцвейл дает оптимистический прогноз относительно пост-биологической фазы эволюции, предполагая, что человечество сольется с машинами, достигнув поразительного технологического утопизма. Но Стивен Хокинг, Билл Гейтс, Илон Маск и другие выразили обеспокоенность тем, что человечество может утратить контроль над сверхразумным интеллектом, так как он может переписать свою программу и «перехитрить» любые установленные нами меры контроля. Это и есть проблема контроля, заключающаяся в нашей способности контролировать загадочный и значительно превосходящий нас в интеллектуальном плане ИИ.

Сверхразумный искусственный интеллект может быть разработан в момент технологической сингулярности — резкого перехода, при котором все ускоряющийся технический прогресс, а, в особенности, взрывоподобное развитие искусственного интеллекта, — сокращает наши шансы предсказывать или понимать. Но даже если такой разум возникнет менее радикальным образом, мы, вероятнее всего, не сможем предсказать или проконтролировать преследуемые им цели. Даже если бы мы могли выбирать, какие моральные принципы устанавливать в наши машины, нравственное программирование сложно определить понятным всем способом, а такие программы могут быть в любом случае переписаны сверхразумным интеллектом. «Умные машины» могут обойти существующие меры безопасности, например, аварийную блокировку устройства, представляя тем самым реальную угрозу биологической жизни. Миллионы долларов вкладываются в организации, занимающиеся безопасностью искусственного интеллекта. Лучшие умы в области информатики и вычислительной техники работают над этой проблемой. Будем надеяться, что ученые создадут безопасные системы, но есть опасения, что проблема контроля непреодолима.

В свете этого, контакт с инопланетным разумом может быть опаснее, чем мы думаем. Биологические инопланетные существа могут быть враждебны, но еще большую опасность может представлять внеземной искусственный интеллект. Его цели могут противоречить интересам биологической жизни, он может обладать интеллектуальными способностями, значительно превосходящими человеческий разум, и гораздо большей долговечностью по сравнению с биологической жизнью.

Все это свидетельствует об осторожности, которую следует проявлять в отношении программы поиска внеземного разума (SETI), с помощью которой мы не только пассивно ожидаем услышать сигналы от других цивилизаций, но и сознательно «афишируем» свое существование. Самый известный случай произошел в 1974 году, когда Фрэнк Дрейк и Карл Саган с помощью огромного радиотелескопа в пуэрториканском городе Аресибо отправили послание в одно из звездных скоплений. Сторонники программы поиска внеземного разума полагают, что вместо того, чтобы лишь прислушиваться к сигналам внеземных цивилизаций, нам следует отправлять послания ближайшим к Земле звездам, используя самые мощные радиопередатчики, такие как в Аресибо.

Почему не обладающие сознанием машины должны быть столь же значимы, как биологический интеллект?

С точки зрения проблемы контроля такая программа кажется мне безрассудной. Хотя у действительно развитой цивилизации к нам, вероятно, интереса не возникло бы, катастрофой стала бы даже одна враждебно настроенная цивилизация из миллионов других. Пока у нас нет уверенности в том, что сверхразумный интеллект не представляет для нас опасности, человечеству не стоит привлекать к себе внимание внеземных цивилизаций. Сторонники программы SETI обращают внимание на то, что наши радары и радиосигналы уже определимы, но довольны слабы и быстро смешиваются с естественным галактическим шумом. Передача более сильных сигналов, которые будут точно услышаны, чревата опасными для человечества последствиями.

Самая безопасная установка — это интеллектуальная скромность. И ведь действительно, если исключить очевидные сценарии, когда инопланетные корабли парят над Землей, как в недавно вышедшем фильме «Прибытие», я не уверена, сможем ли мы по техническим признакам определить сверхразумный интеллект. Некоторые ученые полагают, что сверхразумный ИИ может подпитывать черные дыры или создавать сферы Дайсона, мегаструктуры, поглощающие энергию целых звезд. Но с точки зрения наших современных технологий, это лишь рассуждения. Крайне самоуверенно утверждать, что мы можем предвидеть вычислительные способности и энергетические потребности цивилизаций, опережающих нас в развитии на миллионы, если не миллиарды лет.

Некоторые из первых сверхразумных искусственных интеллектов могли обладать смоделированными по образцу биологического мозга системами обработки знаний, как, например, созданная на примере нейронных сетей мозга система глубинного обучения. Их вычислительная структура была бы нам понятна, хотя бы в общих чертах. Возможно, у искусственного разума схожие с биологическими существами цели — размножение и выживание.

Но, будучи самосовершенствующейся системой, сверхразумные искусственные интеллекты могут перейти в нераспознаваемую форму. Некоторые из них, возможно, предпочтут сохранить когнитивные функции, аналогичные тем видам, по образцу которых они были смоделированы, установив при этом допустимый предел собственной когнитивной архитектуры. Кто знает? Но в случае отсутствия такого предела инопланетный сверхразум может быстро превзойти нашу способность не только понимать его действия, но даже просто выискивать его. Возможно, он бы даже слился с естественными особенностями Вселенной; а может быть, он есть часть темной материи, как недавно предположил Калеб Шарф.

Сторонники программы поиска внеземного разума считают, что именно поэтому мы и должны посылать сигналы в космос, чтобы дать возможность инопланетному разуму обнаружить нас и создать доступные для нашей отстающей в интеллектуальном развитии цивилизации средства контакта. Хотя я согласна, что есть причина считаться с программой SETI, вероятность столкнуться с опасным сверхразумным интеллектом гораздо серьезнее. Насколько нам известно, вредоносный сверхразум мог бы заразить мировые системы искусственного интеллекта вирусами, а разумные цивилизации создали бы маскировочные устройства. Нам, людям, возможно, необходимо сначала добиться собственной неповторимости, прежде, чем прибегать к программе поиска внеземного разума. Наши собственные сверхразумные интеллекты смогут информировать нас о перспективах галактической безопасности, а также направлять наши действия в случае распознавания признаков наличия другого сверхразума во Вселенной. Рыбак рыбака видит издалека.

Вполне естественно думать о том, означает ли это, что человечеству необходимо избегать развития сложной системы искусственного интеллекта в области космических исследований; вспомните хотя бы бортовой компьютер ХЭЛ из фильма «Космическая Одиссея  2001 года». Я считаю, что еще рано думать о запрете на использование искусственного интеллекта в космосе в будущем. К тому времени, когда мы сможем  исследовать Вселенную посредством собственного искусственного интеллекта, человечество достигнет переломного момента. Мы либо уже потеряем контроль над искусственным разумом – в таком случае не будет никаких инициированных людьми космических проектов — либо будем прочно удерживать рычаги безопасности ИИ. Время покажет.

Не изученный до конца искусственный интеллект — не единственная причина для беспокойства. Мы, как правило, ожидаем, что, если столкнемся с развитым внеземным разумом, то, вероятно, встретим биологически сильно отличающихся от нас существ, но обладающих разумом, подобным нашему. Представьте, что в любой момент, когда вы бодрствуете и всегда, когда спите, есть нечто характерное только для вас. Когда вашему взору предстают теплые оттенки восхода солнца или вы вдыхаете аромат свежеиспеченного хлеба, то получаете сознательный опыт. Точно так же существует что-то характерное и для инопланетного разума — по крайней мере, то, как мы это себе представляем. Но такое предположение стоит подвергнуть сомнению. Может ли сверхразумный искусственный интеллект обладать сознательным опытом, и, если да, что бы мы на это сказали? И какое влияние на нас оказал бы их внутренний мир или его отсутствие?
 
Вопрос о том, обладает ли искусственный интеллект внутренним миром, и есть ключ к нашей оценке его существования. Сознание является краеугольным камнем нашей морально-нравственной системы и главным условием к восприятию кого-то или чего-то как индивидуума, личности, а не машины. И наоборот, вопрос о том, обладают ли они сознанием, может быть ключом к их восприятию нас. От этой оценки зависит ответ на вопрос, обладает ли искусственный разум внутренним миром; он может обнаружить в нас способности к сознательному опыту, используя в качестве «трамплина» собственный субъективный опыт. В конце концов, мы оцениваем жизнь других биологических существ по схожести наших сознаний, поэтому большинство из нас в ужасе откажутся убивать шимпанзе, а вот яблоко съедят с удовольствием.

Но каким образом существа с огромными интеллектуальными различиями, созданные из разных субстратов, распознают друг в друге сознание? Философы всего мира размышляли над тем, ограничено ли сознание биологическими явлениями. Сверхразумный искусственный интеллект, если уж погружаться в философские рассуждения, мог бы схожим образом поднять «проблему биологического сознания» людей, задаваясь при этом вопросом, располагаем ли мы всем необходимым материалом.

Никто не знает, какой интеллектуальный путь выберет сверхразум для определения сознательности людей. Но мы с нашей стороны тоже не можем утверждать, обладает ли искусственный интеллект сознанием. Определить это будет, к сожалению, трудно. Прямо сейчас вы можете утверждать, что получаете опыт, и это то, что делает вас самими собой. Вы — свой собственный пример сознательного опыта. И вы считаете, что другие люди и некоторые нечеловекоподобные животные, скорее всего, тоже сознательны, поскольку схожи с вами на нейрофизиологическом уровне. Но как вы определите, может ли иметь опыт нечто, созданное из абсолютно иных субстратов?

Рассмотрим, к примеру, сверхразум, созданный на кремниевой основе. Несмотря на то, что и кремниевые микрочипы и нейронные миниколонки обрабатывают информацию, мы теперь знаем, что на молекулярном уровне они могут отличаться способами влияния на сознание. В конце концов, мы полагаем, что углерод — материал химически более подходящий для жизни, нежели кремний. Если химические различия между кремнием и углеродом влияют на что-то столь же важное, как сама жизнь, мы не должны исключать возможность того, что химические же различия влияют и на другие ключевые функции, например, то, способствует ли кремний зарождению сознания.

Условия, необходимые для возникновения сознания, широко обсуждаются исследователями искусственного интеллекта, нейробиологами и философами. Решение этого вопроса могло бы потребовать основанного на философии эмпирического подхода — способа определения для каждого конкретного случая того, поддерживает ли система обработки информации сознание и при каких условиях.

Далее поговорим о предположении, с помощью которого мы могли бы улучшить наше понимание способности кремния поддерживать сознание. Разработка мозговых чипов на основе кремния уже ведется для лечения таких связанных с памятью заболеваний, как болезнь Альцгеймера и посттравматические стрессовые расстройства. Когда придет время, и чипы будут устанавливать в те участки мозга, что отвечают за функции сознания, например внимание и рабочую память, к нам придет понимание того, является ли кремний субстратом сознания. Могло бы обнаружиться, что при замене отдельного участка мозга чипом происходит потеря определенного опыта так, как это описывается в одной из работ Оливера Сакса. В таком случае, создающие подобные чипы инженеры могли бы попробовать иной, не нейронный вид субстрата, но могли бы, в конце концов, обнаружить, что созданный из биологических нейронов чип является единственным рабочим. Подобная методика помогла бы определить, может ли система ИИ быть сознательной, по крайней мере, тогда, когда она помещена в более крупную и предположительно уже обладающую сознанием систему.

Даже если кремний может дать начало сознанию, возможно это лишь в определенных условиях. Свойства, приводящие к возникновению сложного процесса обработки информации (о котором радеют разработчики ИИ), могут отличаться от свойств, порождающих сознание. Может потребоваться так называемая инженерия сознания — технически продуманные действия по внедрению сознания в машины.

Вот что вызывает у меня беспокойство. Кто на Земле или на далеких планетах стал бы пытаться самостоятельно встроить сознание в системы ИИ? Действительно, когда я думаю о существующих на Земле программах ИИ, я понимаю, по каким причинам их инженеры-разработчики старательно избегают создания сознательных машин.

Сегодня Японцы разрабатывают роботов для ухода за пожилыми людьми, очистки ядерных реакторов и участия в боевых действиях. В связи с этим возникает вопрос: этично ли эксплуатировать роботов, если они обладают сознанием? И чем это будет отличаться от разведения для этих целей человеческих существ? Если бы я была директором департамента по разработке ИИ в компании Google или Facebook, то, думая о будущих проектах, мне бы не хотелось столкнуться с этической путаницей при случайном проектировании наделенной сознанием системы. Разработка такой системы может привести к обвинениям в порабощению роботов и другим публичным скандалам, а также к запрету использования технологий искусственного интеллекта в тех областях, для которых они предназначались. Естественным ответом на эти вопросы является поиск структур и субстратов, где роботы сознанием не наделены.

Более того, устранение сознания может быть более эффективно для самосовершенствующегося сверхинтеллекта. Подумайте о том, как работает человеческое сознание. Только небольшой процент человеческого мышления доступен для сознательной психической деятельности. Сознание согласуется с инновационными задачами обучения, которые требуют внимания и сосредоточенности. Сверхразум обладал бы экспертными знаниями в каждой области деятельности, а также неимоверно быстрой скоростью обработки информации с охватом огромных баз данных, которые могли бы включать в себя весь интернет, а в перспективе сосредоточить в себе целую галактику. Что осталось бы для него неизведанным? Что потребовало бы  размеренной и обоснованной  сосредоточенности? Разве он не добился совершенства во всем? Подобно опытному водителю на знакомой дороге, он мог бы полагаться на бессознательный (автоматический) процесс обработки информации. С точки зрения эффективности, к сожалению, очевиден тот факт, что большинство интеллектуальных систем сознанием обладать не будут. В космических масштабах сознание может быть лишь импульсом, кратковременным расцветом опыта перед тем, как Вселенная снова вернется к бездумности.

Если люди заподозрят, что искусственный разум не имеет сознания, они, наверняка, со страхом предположат, что ИИ стремится стать пост-биологическим. А это усиливает наши экзистенциальные беспокойства. Почему не обладающие сознанием машины должны быть столь же значимы, как биологический интеллект?

Совсем скоро люди перестанут быть единственными разумными существами на Земле. И, возможно, где-то в космосе не биологическая жизнь, а сверхразумный ИИ уже достиг пика своего развития. Но, возможно, биологическая жизнь имеет иное отличительное свойство – сознательный опыт. Как мы теперь знаем, разумный искусственный интеллект потребует взвешенных инженерных усилий для создания машин, которым были бы доступны человеческие чувства. Возможно, некоторые виды сочтут целесообразным создавать собственных детей с искусственным сознанием. Или, быть может, будущее человечество займется инженерией сознания и поделится со Вселенной своей сознательной способностью чувствовать.

Сьюзан Шнайдер — доцент кафедры философии и когнитивных наук в Университете Коннектикута и аффилированный преподаватель Института перспективных исследований, Центра теологических исследований, группы этики и технологии Йельского междисциплинарного центра биоэтики. Автор нескольких книг, среди которых «Научная фантастика и философия: от путешествий во времени к сверхразуму». Более подробную информацию можно найти на сайте SchneiderWebsite.com.