Предполагается, что уже в ближайшее время появятся автономные виды вооружений с искусственным интеллектом (ИИ), которые будут искать цели и уничтожать их. В ходе саммита ООН в конце августа Австрия, придерживающаяся нейтралитета, выразила обеспокоенность тем, что решение вопроса о жизни и смерти будет доверено ИИ. Представители Коста-Рики, у которой нет армии, и других государств предложили полностью запретить автономные виды вооружений. Между тем Россия и США, обладающие мощным военным потенциалом, выступают против ограничений, заявляя, что ИИ позволит снизить людские потери.
Саммит начался в Женеве 27 августа и завершился 31 августа. В нем приняли участие чиновники из более, чем 100 стран, представители НКО и специалисты. Автономное вооружение также называют Lethal autonomous weapon system («Системы автономного летального оружия», LAWS). Такие системы определяют цели автоматически без участия человека и атакуют их. В настоящее время в боях используются автономные дроны, однако решение о нанесении удара принимает человек.
Главная проблема лежит в области морали. «Нельзя доверять ИИ решение о жизни или смерти человека», — подчеркнул постпред Австрии Томас Хайноци. Невозможно избежать различных рисков: вовлечение мирных жителей из-за ошибок ИИ, потеря управления из-за дефектов и так далее.
Коста-Рика и другие страны предложили полностью запретить автономные виды вооружений. «Действующее международное право не соответствует новым видам вооружений». Такое мнение высказали некоторые участники саммита. По информации НКО, присутствовавших в Женеве, 26 стран, включая Австрию и Бразилию, выступили за подписание запрета.
Между тем США и Россия, как правило, выступают против ограничений. «Автономное оружие может снизить количество жертв среди мирного населения», — подчеркивает Вашингтон. Представители России также отметили: «ИИ способен принимать решения лучше, чем человек». Даже если некоторые страны примут соглашение о запрете автономных видов вооружений, оно не возымеет эффект, если его не ратифицируют такие крупные державы, как США, Россия и так далее.
Разработка автономных вооружений идет стремительными темпами. Южная Корея создала робота, который определяет цель по температуре человека и атакует ее при помощи пулемета, следуя указаниям человека. 24 августа сухопутные силы США создали в Техасе командование будущего, которое будет отвечать за разработки нового вооружения с использованием ИИ.
Эксперты полагают, что в ближайшем будущем в бою не будет использоваться автономное оружие с ИИ, в управлении которым человек не будет принимать никакого участия, однако некоторые требуют создать правила для разработки и использования автономного оружия, как это было в случае с ядерным оружием, противопехотными минами и так далее. «Большинство стран разделяет мнение о том, что присутствие человека необходимо», — говорит посол Индии Гил.
ИИ будет не только принимать решение о том, атаковать цель или нет, но и обнаруживать врага, вести его, определять цель и так далее. «Необходимо тщательно обсудить суть автономного оружия, а также степень участия человека», — отмечает представитель ЕС.
«Мы не будем заниматься разработкой, производством, продажей и использованием автономного оружия». Недавно президент Tesla Motors Илон Маск, а также более 2400 управленцев и ученых подписали декларацию против автономного оружия.