Представим, что у нас есть роботы совершенно идентичные мужчинам, женщинам и детям, и нам по закону разрешалось бы взаимодействовать с ними так, как нам заблагорассудится. Как бы вы в таком случае обращались бы с ними?


Таков посыл популярного сериала телеканала HBO «Мир Дикого запада» (Westworld), выпустившего второй сезон в воскресенье вечером. В сюжетной линии второго сезона поднимается основополагающий этический вопрос с которым люди могут столкнуться уже в недалеком будущем.


Основанный на фильме 1973 года, «Мир Дикого запада» представляет нам футуристический парк развлечений, смоделированный по образцу Дикого Запада, где персонажи — бармены, проститутки, шерифы, бандиты — роботы, которых запрограммировали для как можно более естественного взаимодействия с их гостями − людьми. Эти интеллектуальные машины выглядят и ведут себя точно так же, как люди. Зрители и правда часто путают или находятся в заблуждении по поводу того, кто робот, а кто человек.


Гости в свою очередь могут делать все, что они пожелают. Некоторые из них берут на себя героические роли, в то время как другие поддаются своим самым грязным желаниями, участвуя в пытках, изнасилованиях и убийствах даже тех роботов, которых тяжело отличить от настоящих детей. Роботы в свою очередь были запрограммированы так, что не могут нанести вред гостям; поэтому такое поведение со стороны людей— это акты чистого садизма без риска репрессий.


Вряд ли это будет спойлером, сказав, что в «Мире Дикого запада» все идет не по плану. Однако нам важен не сам сюжет сериала, а его посыл и наша реакция как зрителей на этих человекоподобных роботов и на то, что они могут рассказать нам о человеческой природе и будущем технологий.


Самое серьезное беспокойство заключается в том, что, вероятно, когда-нибудь мы создадим машины, обладающие сознанием: разумные существа с собственными верованиями, желаниями и, самое тяжелое с нравственной точки зрения, обладающие способностью страдать. Кажется, что нас ничего нас не останавливает от такого шага. Философы и ученые до сих пор не совсем понимают, как сознание выходит за рамки материального мира, но мало кто сомневается в том, что это возможно. Это лишь говорит о том, что создание машин, обладающих сознанием вполне осуществимо.


Предположим, как полагают многие философы и ученые, сознание возникает в достаточно сложной системе, обрабатывающей информацию. У нас нет оснований утверждать, что такая система должна состоять из плоти и крови. «Сознательные разумы», скорее всего, независимы от используемой платформы и являются продуктом правильного программного обеспечения. По всей видимости, это лишь вопрос времени, прежде чем мы создадим робота, который будет подражать функционированию человеческого мозга, либо создадим другой сознательный разум.


Даже если предположить, что только биологические системы могут обладать сознанием, человечеству возможно удастся добиться этого с помощью искусственного интеллекта и генной инженерии. В «Мире Дикого запада» нам дают понять, что роботы частично биологические, и мы можем видеть, как они истекают кровью.


Если мы действительно создадим сознательных существ, общепринятая мораль говорит нам, что было бы неправильно наносить им вред, поскольку это может причинить им страдание и несчастье. Так же, как было бы неправильно разводить животных ради пыток или иметь детей, только для того, чтобы обращаться с ними как с рабами. Относиться к сознательным машинам таким образом — неправильно.

© Warner Bros. Television, 2016
Кадр из сериала «Мир дикого запада»


Но как мы узнаем, что наши машины стали сознательными? Декарт утверждал, что наше собственное сознание не подвержено сомнению. Что касается сознания других, мы не можем быть ни в чем абсолютно уверены. Вероятно, многих из нас, хотя бы на мгновение, веселила мысль о том, что все вокруг стали зомби: ходят без мозгов, смеются, плачут, жалуются и радуются. Возможно, ученые, в конце концов, обнаружат признаки формирования сознания, и тогда мы сможем проводить соответствующие тестирования на роботах, как сейчас мы делаем это на животных и на друг друге. Однако не остается никаких сомнений, что мы создадим машины, которые будут казаться сознательными задолго до того, как мы достигнем этого момента.


Все роботы в «Мире Дикого запада» покажутся нам сознательными, хоть мы можем и не понимать сам процесс зарождения сознания. Действительно, эксперименты с искусственным интеллектом и роботами уже показали, как быстро мы присваиваем чувства машинам, которые выглядят и ведут себя как независимые существа.


А теперь прибавьте к этому наделение робота человеческими качествами: представьте не машину с торчащими проводами, мультяшными глазами и голосом как у Сири, а красивого незнакомца, который заводит с Вами интеллигентную беседу и разбирается в Ваших эмоциях лучше, чем Ваш супруг или лучшие друзья. Было бы тяжело не воспринимать это существо как человека, независимо от Ваших философских взглядов и от того, что его создатели рассказали Вам о том, как оно было создано.


Именно по этой причине интересно наблюдать за событиями в «Мире Дикого запада». Если отвлечься от удовольствия, полученного при просмотре, создатели этого сериала вложили в него глубокую философскую идею. Одно дело сидеть на семинаре и спорить о том, насколько бы это было морально, если роботы имели сознание. Совсем другое — наблюдать за мучениями этих существ, которых в сериале играют Эван Рэйчел Вуд (Evan Rachel Wood) и Тэнди Ньютон (Thandie Newton). Вы также можете задаться вопросом, но глубоко внутри вы уже знаете ответ.


При просмотре сериала, вы также начинаете понимать ваше отношение к людям, которые насилуют, пытают и убивают этих роботов. Мы не знаем, сколько людей вели бы себя так же в месте, подобном этому (судя по сериалу от таких гостей нет отбоя), но по всей видимости вы почувствуете к ним отвращение. В этом случае роботы являются более человечными, а люди которые злоупотребляют ими — монстры.


У Канта было странное отношение к животным, он воспринимал их как вещи, лишенные нравственной ценности. Тем не менее, он настаивал на должном обращении с ними, поскольку считал, что это неразрывно связано с отношением людей друг к другу: «Тот, кто жесток к животным, так же ведет себя и с людьми». То же самое можно сказать и про отношение к роботам. Даже если бы мы были уверены, что они не обладают сознанием и не могут по-настоящему страдать, пытки роботов могут нанести вред самим людям и тех кого они окружают.


Это является серьезным поводом для беспокойства, по причине которого многие с осторожностью относятся к жестоким видеоиграм. Уже давно существуют предположения о том, что насилие в виртуальном мире уменьшает восприимчивость людей к насилию в мире реальном. Доказательства тому пока что малоубедительны. В действительности же, в связи с тем, что видеоигры становятся все более реалистичными, уровень насильственной преступности снизился.


Но перспектива создания такого места как «Мир Дикого запада», вызывает гораздо большее беспокойство, поскольку нанесения вреда роботу не просто похоже на нанесения вреда человеку: оно ему идентично. Мы не представляем, что с нами могут сделать эти фантазии в этическом или психологическом плане, — но, по-видимому, нет никаких оснований считать, что за этим последует что-то хорошее.


Затрагиваемая проблема выходит за рамки одного садизма. Машины созданы для улучшения жизни людей, особенно привлекает перспектива создания роботов-горничных, дворецких и водителей (также известные как беспилотные автомобили). Пока у нас нет с ними проблем, однако по мере совершенствования искусственного интеллекта мы становимся все больше подвержены моральному риску.


В конце концов, если нам удастся создать машины такими же умными как мы или даже умнее, и, что еще важнее, машины, которые смогут чувствовать — становится не совсем ясно, насколько это было бы этично для нас использовать их для решения наших задач или целенаправленно программировать их таким образом.


Изобретение генетически выращенной расы рабов — это стандартный прием в научной фантастике, где человечество осознает, что совершило нечто ужасное. Чем же тогда будет отличаться производство разумных роботов-рабов?


Впервые в нашей истории мы рискуем создать машины, которые только монстры смогут использовать их по своему усмотрению.