Те, кто пугает нас, что роботы захватят власть над людьми, обычно представляют себе нереальную ситуацию, при которой развиваться будут только машины, а все окружающее их останется неизменным. Этот подход основан на убеждении, что эволюция технологий искусственного интеллекта станет протекать совершенно автономно, в отрыве от всех социальных, культурных и цивилизационных процессов.
Большая красная кнопка
Между тем в действительности развитие робототехники, как и всех других отраслей, сопровождается действиями людей, направленными на приведение развития в соответствие существующей в обществе иерархии ценностей. Из-за этого в будущем роботы будут, возможно, работать совершенно в ином окружении и на иных условиях, чем мы сейчас себе представляем.
В этом контексте кажутся в целом бессмысленными разговоры о так называемой этике роботов. Этика как умение различать добро и зло относится только к людям, которые создают роботов или пользуются ими. Нет оснований всерьез рассматривать сценарии, что автономно действующему автомобилю придется в какой-то момент самому решать, рисковать ли пассажирами, совершая резкий поворот вбок, который приведет к столкновению с фонарем, чтобы спасти оказавшегося перед машиной пешехода, или же спасать пассажиров, рискуя жизнью и здоровьем пешехода-неудачника.
Более вероятен такой сценарий, что дороги для самоуправляющихся автомобилей будут полностью закрыты, так что пешеход вообще не сможет на них появиться.
Другой вариант — это запрограммированная четкая процедура действий робота в аварийной ситуации. Она используется сейчас в беспилотных аппаратах. Если такой аппарат теряет связь с оператором или в его программе возникает ошибка, он не предпринимает никаких дальнейших самостоятельных действий, а переходит к записанному алгоритму возвращения на базу.
Это своего рода цифровой аналог большой красной кнопки, которая используется в промышленной автоматике: в случае угрозы она позволяет одним движением отключить работу всей системы.
Общества постоянно стараются адаптировать механизмы своего функционирования (законы, государственные институты, инфраструктуру) к вызовам, связанным с развитием технологий. Именно людям придется найти решения (технические, юридические, организационные), которые сведут на нет угрозу со стороны машин и позволят использовать их в соответствии с обозначенными целями. Ни одно решение в этой сфере нельзя оставлять технике.
Если, например, общепризнанной ценностью, как мы все больше видим это сегодня, станет стремление к экономизации практически всех сфер человеческой жизни, то роботы станут в первую очередь служить оптимизации стоимости труда, сокращению расходов и замене более дорогих решений дешевыми.
Если некоторые решения разойдутся с общепринятыми представлениями об общем благе или даже будут направлены против интересов отдельных людей и групп (например, теряющих рабочие места в некоторых профессиях), это вовсе не значит, что они будут внедряться вразрез со всеобщими (хотя не всегда осознаваемыми) общественными ожиданиями и убеждениями. В конечном счете, на то, как используются любого рода технологии, будут влиять установившиеся в конкретном обществе образцы поведения.
Если взять пример интернет-магазинов, на первый план выходит требование как можно быстрее доставить покупателю заказанный товар. Наши ожидания в значительной мере способствуют тому, что в сортировочных и упаковочных отделах начинают применяться оптимизированные и автоматизированные методы работы, в частности, с использованием роботов или так называемых умных систем управления рабочим процессом. Ведь только так можно сегодня удовлетворить эти ожидания. Так что мы, как это ни парадоксально, сами готовим себе судьбу рабов машин.
В других сферах ситуация похожа. Начнут ли роботы в Японии опекать пожилых граждан только из-за того, что появятся реальные технические возможности создать такие машины? Нет. Интенсивные работы по как можно более широкому внедрению роботов в систему социальной и медицинской опеки ведутся в стране цветущей сакуры потому, что формат многопоколенческой семьи переживает там кризис. Пожилые люди не получают помощи и поддержки от родственников, а нанимать к каждому одинокому человеку профессиональную медсестру и сиделку слишком дорого. Спасением в этих обстоятельствах может стать соответствующим образом сконструированный и запрограммированный робот, который поможет справиться по крайней мере с некоторыми будничными делами. Исходная точка здесь — вновь не технологический выбор, а социальная проблема: как обеспечить относительно достойные условия жизни людям, оставшимся без поддержки родственников.
Появление роботов многое меняет и осложняет, но одновременно — упрощает и позволяет. Те, кто призывает нас сейчас освободиться от диктата роботов, грешат наивностью.
Человек всегда, испокон веков, поддавался влиянию общества, в котором жил. Окружение постоянно влияет на нас, заставляет действовать по действующим в нем правилам. Господство и давление роботов и искусственного интеллекта заключается не в том, что они заменят нас в принятии решений и управлении нашей судьбой, а в том, что нам придется придерживаться правил, проистекающих из их существования в нашей жизненной среде, приспосабливаться к принципам, которые возникнут из-за их присутствия в разных сферах нашей жизни.
Например, помнить об алгоритмическом характере работы умных машин, связанных с этим возможностях, а одновременно ограничениях. Иначе мы не сможем успешно функционировать в современной цивилизационной среде, как не можем сейчас выжить в джунглях, не зная царящих в ней законов природы и не соблюдая их.
В последнее время повсюду цитируют предостережения из открытого письма, которое подписали влиятельные представители науки и бизнеса, в частности, физик Стивен Хокинг (Stephen Hawking), предприниматель Элон Маск (Elon Musk), а также представители компаний Google, Microsoft и IBM. Интересно, что научные и предпринимательские карьеры этих людей в значительной мере связаны с развитием систем искусственного интеллекта. Каков в таком случае подлинный смысл их выступления?
Обществу, которое пользуется магическим мышлением, нужны шаманы. Их роль хотят взять на себя сегодня эксперты. Открытое письмо, как мне кажется, призвано показать, кто принадлежит к этой касте посвященных.
Не будем пугать друг друга роботами, искусственным интеллектом и думающими машинами. Это путь в никуда. Давайте воспринимать их присутствие в своем окружении как естественный элемент развития цивилизации и учиться использовать их в собственных целях. Другого варианта, чтобы на самом деле контролировать роботизированную среду, кроме как хорошо узнать ее, нет.
Робот — это, по сути, очень простое, узкоспециализированное устройство, машина с одной или несколькими функциями, которая может точно исполнить лишь запрограммированную задачу. Кто знает, какие новые профессии появятся в будущем на рынке труда в связи с развитием навыков пользования функциями, которые в разных жизненных ситуациях могут предложить нам роботы.
Не выпустить из рук сферу искусственного интеллекта
Если мы хотим узнать, что смогут в будущем делать роботы, нас следует взглянуть на самих себя. Вместо того чтобы спорить об этике роботов, подумаем о наших собственных (групповых и индивидуальных) воззрениях на развитие робототехники. Взглянем на ценности, которые мы исповедуем, подумаем, каких правил мы придерживаемся в нашей частной, общественной и профессиональной жизни, каким образом они могут отразиться в способах использования умных машин.
Искренний ответ на эти вопросы может сказать многое о возможностях и перспективах использования роботов. Мы увидим, какие из них могут быть добрыми, а какие нанести нам вред. Задумаемся, какие у нас мечты, какие цели мы себе ставим, как мы представляем мир и свое место в нем, и тогда мы увидим, что можно позволить роботам, а к чему их допускать не следует.
Общество должно взять на себя ответственность за собственные действия перед лицом вызовов современной цивилизации, и это единственный путь, чтобы не выпустить из своих рук сферу искусственного интеллекта, точнее, не отдать ее тем, кто его создает. Но это уже тема для другой статьи.
Анджей Гонтаж — культуролог, бывший директор по вопросам информатизации Центра современного искусства Уяздовский замок и главный редактор журнала Computerworld.
