ИИ в современном оружии: почему тема стала актуальной и какие риски несет

Искусственный интеллект в оружии — реальный инструмент на поле боя, который позволяет быстрее обрабатывать данные, управлять дронами и даже выполнять миссии без участия человека. В то же время вместе с преимуществами растут и риски использования ИИ в оружии, в частности неправильное обучение моделей, а также действия противника. Почему тема использования ИИ в оружии стала актуальной, и какие риски несет, в комментарии УНН рассказал руководитель направления C2IS (Command and Control Information Systems) ОО "Аэроразведка" Руслан Прилипко.

Искусственный интеллект в военной сфере. Почему тема использования ИИ стала актуальной?

Как отмечает Прилипко, есть несколько факторов, почему тема использования ИИ стала актуальной.

Первый, самый очевидный, заключается в том, что это стало возможным. Появились технологии и вычислительные мощности, доступные для такого рода задач в достаточно широком применении. Это уже не какие-то уникальные суперкомпьютеры, которые есть только у крупных компаний или государств. Сегодня такие вычисления можно выполнять в доступном формате. Из-за этого технологии стали применимыми, и можно говорить, что их реально интегрировать в милтех. Помня общую тенденцию, когда технологии из бизнес-среды постепенно переходят в военную сферу, поскольку там они лучше отработаны, стало возможным создавать решения, которые сейчас очень востребованы

Второй фактор, который называет эксперт, - общий интерес к искусственному интеллекту.

"Мы видим, что сейчас он фигурирует почти везде - во всех возможных продуктах. Это также подталкивает к поиску его применений в военных технологиях. Но главное - то, что в тех сферах, где искусственный интеллект сегодня реально эффективен, можно достигать значительных результатов. Речь идет о распознавании различных типов объектов, обработке больших массивов информации, работе с языковыми моделями, генеративным ИИ. Итак, сочетание технологического потенциала, зрелости решений и реальных потребностей в сфере обработки больших данных или рутинных операций сделало внедрение ИИ на поле боя вполне естественным", - добавляет Прилипко.

Если бы не полномасштабное вторжение - развитие искусственного интеллекта в военной сфере происходило бы так же?

"Точно мы не знаем, но есть два фактора, которые изменили ситуацию. Во-первых, эта война существенно отличается по скорости и объему информации, которую нужно обрабатывать. Например, в сфере распознавания техники появилось настолько много видео, что человек физически не может его пересмотреть. Не хватает людей и времени: пока ты просматриваешь все полеты, информация уже теряет актуальность. Поэтому важно уметь "сжимать" время, и именно ИИ это обеспечивает", - отмечает Прилипко.

По его словам, во-вторых, искусственный интеллект в принципе стал мощнее. И, поскольку внимание всего мира приковано к этому конфликту, технологии естественно интегрируются в военную сферу.

Если бы полномасштабной войны не было, развитие ИИ шло бы тем же путем, но значительно медленнее. По примеру - Китай или страны НАТО, где цифровые решения развивались десятилетиями. Война сделала технологии чрезвычайно актуальными. Они реально помогают, ускоряют процессы и делают их эффективнее

Преимущества ИИ - это только скорость и экономия времени?

"Не только. Есть то, что уже работает, и то, что еще разрабатывается. Например, рои дронов - это технология, которая разрабатывается. И она позволяет одному оператору управлять не одним беспилотником, а группой. Для координации такого "флота" - наземного или воздушного - нужен именно искусственный интеллект. Пока эффективных решений в этой сфере немного, но работа ведется", - сказал Прилипко.

Он приводит другой пример - использование ИИ для навигации, когда система может распознавать маршрут без GPS или без радиосигналов.

"Нейросеть "видит" карту, сравнивает ее с реальным изображением местности и может проложить путь даже без внешних сигналов. Такие решения уже работают, хотя не все это осознают. Еще одно преимущество - возможность выполнять миссии без участия человека. Это уменьшает риски для личного состава. Автоматизация, роботизация, автономность - все это снижает человеческие потери. Кроме того, ИИ позволяет обрабатывать огромные массивы данных и быстро генерировать аналитику: выявлять закономерности, анализировать препятствия, определять риски. Это сокращает время на принятие решений. Если говорить конкретно о дронах, то это навигация, донаведение, анализ телеметрии. Например, можно определять, где были радиопомехи, а где - эффективные маршруты. Это делает оружие и тактику его применения эффективнее", - говорит эксперт.

Риски использования искусственного интеллекта в дронах и РЭБ

Прилипко приводит несколько примеров рисков использования ИИ в дронах и РЭБ, в частности:

• первый риск - неправильное обучение моделей. Ошибки в данных приводят к ложным результатам: система может распознать объект неправильно или не распознать вовсе;
• второй риск - действия противника. Если враг понимает принципы работы системы, он может сознательно искажать ее работу: маскировать технику, изменять форму, добавлять элементы, которые запутывают алгоритм.

Проблема заключается в том, что к искусственному интеллекту быстро формируется доверие. Когда он работает, люди начинают воспринимать его как безошибочный инструмент и теряют критичность. Это может привести к серьезным последствиям, когда система ошибается, а люди этого не замечают. Еще один риск - зависимость от технологии. Пользователи начинают полагаться на ее выводы, вместо того чтобы проверять их. А когда алгоритм ошибается, последствия могут быть непредсказуемыми. Также существует риск потери моделей. Если системы не защищены должным образом, их можно перехватить, разобрать, скопировать и использовать против нас

Возможно ли оружие, которое действует без участия человека, и нужно ли это вообще?

"Это сложный вопрос. Если взять, например, систему самонаведения - то она уже частично действует без человека. После запуска ракета сама вычисляет маршрут и поражает цель. В этом смысле автономное оружие уже существует. Вопрос лишь в том, должен ли человек оставаться "в цикле" - между обнаружением цели и решением о пуске. Есть системы, где человек лишь нажимает кнопку "Пуск", а есть те, где он может вмешаться, если алгоритм действует неправильно", - отмечает руководитель направления C2IS.

Впрочем, по его словам, во время войны эти вопросы не стоят остро. Как показывает опыт, когда речь идет о выживании, главное - эффективность. Этическая дискуссия об автономности оружия, вероятно, вернется после победы.

Как искусственный интеллект влияет на эффективность ведения боевых действий?

"Если говорить о современном применении в украинской армии, то прежде всего это распознавание целей на видео и видеопотоках. Это позволяет сократить время обработки данных, получить автоматизированные отчеты и сразу передать информацию в системы управления. Вторая сфера - навигация, донаведение, поражение целей на различных платформах. Третья - аналитика больших массивов данных, планирование, обучение, техническая поддержка. Все это влияет на скорость, точность и качество решений", - отмечает Прилипко.

Подводя итоги, эксперт подчеркивает, что нынешняя война - война технологий, искусственный интеллект - ее неотъемлемая часть.

"Как и в гражданской жизни, если что-то можно автоматизировать и отдать машине - мы это делаем. Но ИИ - лишь инструмент. Он не заменит человека, и эта технология еще далека от идеала. Сейчас она довольно "сырая". Следующий этап - это эффективные AI-агенты, которые смогут действовать автономно. Но даже тогда будет оставаться вопрос ответственности.

Как и с автономными авто - что будет, если система ошибется? Это та же дилемма: технология может упростить жизнь, но несет и новые риски", - резюмировал эксперт.