SZ: в конфликте на Украине стороны стремятся активнее использовать дроны с ИИ

О войне дронов над Украиной журналисты часто писали с завышенными ожиданиями. С другой стороны, обе стороны конфликта очень способствовали этой мании. Речь идет о столь важной и опасной вещи, что СМИ трудно о ней не писать.

Осенью прошлого года появились новости о том, что Россия и Украина применяют малые дроны с искусственным интеллектом для идентификации и наведения на цели. Под искусственным интеллектом "на борту" подразумевается, что новые версии российского "Ланцета" и украинского дрона Saker Scout не нуждаются в операторе, который наводил бы их на цель.

Если такой искусственный интеллект зарекомендует себя в бою, это повлечет большие изменения. Системы электронной борьбы, предназначенные для нарушения связи с управляющим оператором или, что еще хуже, для отслеживания его местонахождения для нанесения точного удара, потеряли бы смысл в борьбе с самонаводящимися дронами.

Квалифицированных операторов, которых по-прежнему не хватает, заменят тысячи военнослужащих, прошедших краткий курс наведения на потенциальные цели. Тогда каждому дрону не понадобится оператор, который внимательно следил бы за изображением с его видеокамер. Один человек сможет наблюдать за целым роем смертоносных дронов.

Сегодня на украинском фронте малые смертоносные дроны с боезарядом — главное оружие, прежде всего, для украинской армии, которая страдает от нехватки боеприпасов. Если бы применять такие дроны стало легче, фронт превратился бы для солдат в еще более опасное место, чем сейчас, пострадавших стало бы больше, и вообще ход войны мог бы измениться.

Но пока ничего такого не наблюдается. Напротив, как кажется, месяцы испытаний дронов с искусственным интеллектом на фронте не принесли практически никаких результатов.

В подробном докладе Центра по новой американской безопасности, опубликованном в начале февраля, дронам посвящено всего несколько строк. "Ланцет-3" преподносился как аппарат с автономной идентификацией и автономным поражением целей, хотя эти данные не нашли подтверждений", — написала директор оборонной программы центра Стейси Петтион. "Обе стороны утверждают, что искусственный интеллект служит для улучшения способностей дрона поражать цель, но, скорее всего, их применение ограничено", — предположила она.

Независимый аналитик, опубликовавший в "Форбс" статью 14 февраля, написал, что русские как минимум временно отключили наводящую функцию своего "Ланцета" с искусственным интеллектом. На видео с мониторов операторов "Ланцета", опубликованных осенью в интернете, часто была видна рамка вокруг цели, которая двигалась сообразно ее движениям, и текст "цель обнаружена", как написал на страницах "Форбс" независимый журналист Дэвид Гэмблинг.

Это некая форма распознавания объектов на изображении, однако по видеозаписи трудно понять, какова ее функция. Либо это укрупнение цели для оператора-человека, либо активное наведение дрона для поражения цели. И то, и другое возможно, если судить по кадрам.

Но ни одна видеозапись, опубликованная в первой половине февраля, с кадрами удара "Ланцетом" эту функцию не подтверждает. Также там нет надписей "цель обнаружена", как и сопутствующей ограничительной рамки. "Напрашивается вывод о том, что программное обеспечение для автоматического распознавания целей было выведено на рынок преждевременно, а затем продукт отозвали", — предполагает Гэмблинг.

Разумеется, все это предположения, потому что сам российский дрон никто в руках не держал. Но выводы выглядят логичными, с чем согласны и другие специалисты, например, Александр Котт, бывший главный научный сотрудник Военно-исследовательской лаборатории. Правда, в интервью серверу Breaking Defense он также отметил, что без доступа к информации, какой располагают российские пользователи, мы не можем ничего утверждать наверняка.

Разумеется, это не означает, что технология распознавания изображений бесполезна для военного применения. Речь идет о том, что пока, по-видимому, проводятся первые испытания и тесты. После них может начаться этап быстрого внедрения со всеми опасными последствиями для солдат по обе стороны, но, прежде всего, для тех, кто в таком случае проиграл бы в технологической борьбе.

В Москве и в Киеве об этом знают, что подтверждают их высказывания. Особенно российский ВПК часто делает весьма громкие заявления о больших возможностях своих вооружений, хотя потом на практике выясняется, что их возможности значительно меньше.

На украинской стороне ситуация мало чем отличается. Система Saker Scout в обозримом будущем якобы получит программное обеспечение для автономного распознавания целей. По сути тогда эти дроны смогут после запуска лететь самостоятельно, находить цели и наносить удары совершенно автономно без участия человека. Однако в реальности никто ничего подобного на фронте не видел.

Еще большой вопрос, возможно ли вообще нечто подобное в обозримом будущем. Поместить искусственный интеллект в дрон — еще более сложная задача, чем его испытать в деле.

Мозг оператора — биологическая нейронная сеть, которая за миллионы лет эволюции совершенствовалась в получении массы смысловых данных (визуальных, звуковых, обонятельных, тактильных), которая постоянно формирует внутреннюю 3D модель мира, а потом воплощает сложные планы действий почти в режиме реального времени.

Для нас это естественная задача, а для искусственного интеллекта это сложно. Таким образом, перед нами еще одно подтверждение парадокса Моравека, то есть известного тезиса о том, что задачи, которые просты для человека, могут быть куда сложнее для искусственного интеллекта.

Элементом "понимания ситуации" в бою должно быть не только распознавание объектов, но и способность наблюдать объект в движении и делать вывод о том, что он сейчас делает. Это сложная цепочка из наблюдений, перевода смысловых вводных в понятные данные о мире, сравнений этих новых данных со старыми моделями в памяти и преобразований информации в выводы о будущем.

Кроме того, на поле боя есть масса ложных сигналов. Украинские ложные цели (фальшивые системы "Хаймарс", радары ПВО и так далее) часто обманывают российских операторов дронов и артиллеристов, чтобы те расходовали боеприпасы на ложные цели, тогда как хорошо замаскированные реальные объекты остаются в целости. А алгоритмы машинного видения обмануть еще легче, чем человека.

Кое в чем у машины может быть преимущество. Солдаты должны воевать вместе как команда. Коллективная подготовка, создание команды и отработка действий, которые гарантируют надежную связь даже под огнем, — на все это во время обучения уходит больше времени, чем на стрельбу из автомата и другие индивидуальные навыки. В этом отношении искусственный интеллект может превосходить человека.

Кстати, поэтому проекты искусственного интеллекта больших армий (американский Joint All-Domain Command & Control и китайский "информатизованный бой") сосредоточены во многом на координации работы разных автоматических систем без посредничества человека.

Можно предположить, что для военных целей в обозримом будущем, скорее всего, лучше всего будет соединить человека и машину в одну команду, в которой один компенсирует слабые стороны другого.

Но давайте вернемся к дронам. Чтобы на самом деле принимать самостоятельные решения, они должны обладать сложным программным обеспечением, которое будет работать на высокоскоростных чипах, а они нуждаются в питании, охлаждении, защите от вибраций и электронных глушилок и так далее.

Все это трудно втиснуть в малые дроны, которые широко используют обе стороны вооруженного конфликта на Украине. Даже в модернизированный дрон "Ланцет 3" вмещается всего три килограмма боеприпасов, так что для "электронного мозга" и его оснастки остается не так уж много места. Не случайно, что работу "искусственного интеллекта", такого как ChatGPT, обеспечивают серверные фермы.

Даже в случае успеха это был бы сложный проект, который мог бы оказаться не по зубам и России, и Украине, где ряд дронов сегодня собирается вручную из комплектующих, заказанных по почте.

Дроны популярны, потому что дешевы. В руках опытного оператора дрон превращается в чрезвычайно точное оружие за небольшие деньги. Дроны как минимум на два порядка дешевле, чем, например, противотанковые управляемые снаряды.

Стоит отметить, что сейчас ни одна из сторон особо не вкладывается в повышение защиты от глушилок малых дронов. В требуемых количествах это просто вышло бы слишком дорого. Поэтому закупается или производится много малых дронов, и стороны учитывают, что до цели долетят только некоторые из них.

Таким образом, и России, и Украине удалось создать бортовой искусственный интеллект, но специалисты сомневаются, что в текущем конфликте он может сыграть свою роль при, несомненно, высокой цене.

Однако это не означает, что обе стороны не будут к этому стремиться. Потенциальная польза слишком велика. Российские "Ланцеты", например, после небольшого перерыва и, скорее всего, "корректировок производителя" могли получить новую функцию.

На сайте LostArmour, который, в том числе, собирает видеозаписи применения "Ланцетов" с разных каналов в "Телеграмме", в конце февраля появилось несколько видеозаписей, из которых можно заключить, что программное обеспечение этого российского дрона-камикадзе было усовершенствовано.

Вместо текста "цель обнаружена" на дисплее появляется название техники. Если это не обман, то, значит, перед нами некая форма автоматической идентификации объекта.

Все снова подробно описывает в "Форбсе" Дэвид Гэмблинг, который выступил и автором вышеупомянутой статьи о "выключении" продвинутых функций "Ланцета" ранее.

"Автоматическая классификация объектов" совсем не то же самое, что искусственный интеллект на борту. Тем не менее это необходимая предпосылка для некого "военного интеллекта". Таким образом, разработки в этом направлении продолжаются.

Правда, результат не обязательно окажется совершенным. Искусственный интеллект делает ошибки и галлюцинирует, но и люди совершают ошибки тоже. Порой это стоит им жизни как в бою, так и вне поле боя. Искусственный интеллект, таким образом, и не должен быть совершенным — он просто должен быть лучше людей.

Так, например, не одной только армии поможет, если искусственный интеллект освоит выполнение некоторых задач даже на среднем уровне. Известно, что в любой группе людей, выполняющих любую задачу, 50% работают хуже среднего. Если избавиться от этой части или хотя бы избавиться от грубейших ошибок, которые делают десять процентов самых худших, то это само по себе уже принесет пользу. В массовых конфликтах, а один из таких мы сейчас видим в Европе, даже слабые улучшения могут сыграть важную роль.

Кроме того, обе стороны конфликта в большей степени мотивированы искать частичные решения. "Это нам нужна полная надежность и абсолютная точность, потому что нашей жизни ничто не угрожает, в отличие от Украины, — сказал серверу Breaking Defenseуже упомянутый Александр Котт: — Но украинцам не нужно совершенство. Они просто не могут его себе позволить"/