ИИ. Серая зона глобальной безопасности

Автор Александра Григоренко

Человечество застыло в прыжке в неизвестность. Развитие искусственного интеллекта даже в бытовом обиходном применении изрядно удивляет и даже пугает впечатлительных пользователей. Предсказать, насколько масштабные и всеобъемлющие изменения ждут нас в этой технологической сфере, как быстро они будут происходить и останутся ли управляемыми, сегодня практически невозможно.

Однако вопросы взаимозависимости фундаментальных вопросов глобальной безопасности и изменения военной инфраструктуры на основе ИИ при всей сложности контроля, регулирования и прогнозирования игнорировать нельзя.

Любой анализ, тем не менее, будет неполным, поскольку применение ИИ в военной сфере очень масштабно, границы его с гражданскими отраслями стерты, а сама тема нагружена трудно вычленяемыми из информационного потока данными, а главное – имеет гигантскую серую зону секретных разработок и испытаний.

При прочих вводных внедрение искусственного интеллекта в военные системы выглядит как логичный шаг на пути к модернизации армии. Но мрачная реальность такова, что неконтролируемое развитие автономных систем вооружений (САС по классификации ООН) содержит не вполне предсказуемые риски. Дело не только в опасности случайного ракетного запуска или ошибки дрона – проблема куда глубже и сложнее.

Главная угроза ИИ в военной сфере – это иллюзия контроля, когнитивное искажение, которому подвержен человек. САС даже в режиме под присмотром оператора обладают способностью к быстрому принятию решений, которые могут оказаться вне человеческого контроля. Момент, когда ИИ решает атаковать или остановиться, наступает быстрее, чем человек способен осознать ситуацию. Это создает риск непреднамеренной эскалации конфликта, когда «случайная» атака может стать началом полномасштабного военного столкновения.

Вторая опасность – это нематериальная и неконтролируемая гонка вооружений. ИИ становится как бы новым ядерным оружием, но опаснее его. Если во времена холодной войны ядерный паритет служил сдерживающим фактором, то гонка вооружений в сфере ИИ представляет собой совсем другую картину. Здесь нет публичных испытаний и демонстрации силы: технологии развиваются в тени лабораторий и секретных программ. Каждая страна стремится получить преимущество, не раскрывая своих реальных возможностей, что создает атмосферу подозрительности и страха. Отсутствие прозрачности ведет к теневой гонке вооружений.

И третий аспект – это двойное назначение, двуликость ИИ: гражданские технологии могут становиться оружием практически моментально, адаптация их для военных нужд не представляет трудности. Системы распознавания лиц, алгоритмы управления беспилотниками, умные датчики и контроллеры – все это уже используется в боевых действиях. Граница между мирными и военными приложениями ИИ размыта, и ее легко пересечь незаметно для международного сообщества.

Еще один пугающий аспект – угроза асимметрии. В отличие от ядерного оружия, разработка ИИ требует меньше ресурсов и доступна даже небольшим государствам и негосударственным группам. Это ведет к асимметричной угрозе, когда малые державы или даже террористические организации могут получить доступ к мощным инструментам ведения войны. Что такое вооруженный дрон, управляемый искусственным интеллектом, в руках экстремистов? Здесь не помогут дипломатические договоры и санкции – машина будет подчиняться только своему алгоритму, точнее, хозяину своего алгоритма.

И еще одна дискутируемая проблема – этическая пустота. Кто несет ответственность? Кто будет отвечать за действия автономных систем? Когда машина ошибается, последствия могут быть трагическими, но, в отличие от человека, ее невозможно привлечь к ответственности. Перекладывание вины на разработчиков, военных операторов или даже на алгоритм ведет к отсутствию морального субъекта. Это создает опасный прецедент, когда человеческая жизнь оказывается во власти беспристрастного кода.

Готовы ли мы передать власть над жизнью и смертью в руки алгоритма, способного к обучению, результаты которого мы не можем предвидеть? На этот вопрос еще не успели ответить, по крайней мере, не пришли к консенсусу даже на уровне международных институтов, но значительный опыт применения автономных боевых систем в реальных конфликтах уже получен и продолжает наращиваться.

Поле боя и программный код

Турецкий квадрокоптер STM Kargu-2 был использован в Ливии в 2020 г. – это первый зарегистрированный случай боевого применения полностью автономной системы, способной атаковать человека без участия оператора. Это событие стало важным рубежом в военной истории, обозначив начало эпохи, когда машины могут сами решать, кто должен жить, а кто – нет. Согласно отчету ООН, опубликованному в марте 2021 г., этот беспилотник атаковал силы, связанные с Халифой Хафтаром, без непосредственного управления оператором. Компания STM, производитель Kargu-2, заявляет, что дрон способен работать как в автономном, так и в ручном режиме, используя алгоритмы машинного обучения для распознавания и отслеживания целей.

Турецкий квадрокоптер STM Kargu-2

Израильские барражирующие боеприпасы, такие как IAI Harpy, ищут и уничтожают радары противника. Хотя они не обладают полноценным ИИ, эти системы могут выполнять миссии с высокой степенью автономности. Они широко применяются в военных конфликтах, а возможностей тестировать апгрейды у Израиля достаточно.

В мае 2018 г. израильские силы с помощью Harop (разновидность Harpy) уничтожили сирийский зенитный комплекс «Панцирь-С1». Следует отметить, что на момент атаки комплекс не функционировал и не имел боеприпасов. В апреле 2016 г., во время обострения ситуации в Нагорном Карабахе, азербайджанская армия использовала IAI Harop для атаки транспортных средств и стационарных объектов противника. 

IAI Harpy и его модификации состоят на вооружении нескольких стран, включая Индию, Южную Корею и Турцию, что свидетельствует об их широком распространении и применении в различных регионах мира.

США

Американская автоматическая зенитная установка Phalanx CIWS способна реагировать на угрозы без участия оператора. Это оружие активно используется для защиты кораблей от ракетных атак, автоматически распознавая и уничтожая цели, но без возможности адаптации к изменениям окружающей среды. Эти системы можно считать «предшественниками» полноценного автономного оружия, так как они ограничены заранее установленными сценариями действий. 

Американская автоматическая зенитная установка Phalanx CIWS

Инициатива Collaborative Combat Aircraft (CCA) в США направлена на создание автономных беспилотных летательных аппаратов, известных как «лояльные ведомые» (loyal wingman). Эти системы разрабатываются для взаимодействия с пилотируемыми самолетами, такими как B-21 Raider, и включают дроны MQ-28 Ghost Bat, способные выполнять автономные миссии разведки, патрулирования и атаки. Автономные дроны действуют в связке с пилотируемыми истребителями, увеличивая их боевой потенциал и предоставляя дополнительные сенсоры и огневую мощь, что, безусловно, развивает боевые возможности. Кроме того, использование «лояльных ведомых» позволяет выполнять самые опасные задачи (например, глубокую разведку во вражеском тылу) без риска для жизни пилотов. Интегрированные алгоритмы ИИ позволяют дронам самостоятельно адаптироваться к изменениям обстановки на поле боя и принимать решения в реальном времени.

Австралийский беспилотник MQ-28 Ghost Bat, созданный в сотрудничестве с Boeing, представляет собой один из ключевых проектов в рамках инициативы CCA. Он также оснащен системой ИИ, позволяющей действовать в качестве автономного разведчика и напарника для истребителей. 

Kratos XQ-58 Valkyrie – беспилотник, который входит в программу научно-исследовательской лаборатории ВВС США по разработке экономичных авиационных технологий (Low Cost Attritable Aviation Technologies, LCAAT). Задача беспилотных аппаратов LCAAT – сопровождение истребителей F-22 и F-35 во время боевых заданий при наличии на борту как систем наблюдения, так и вооружений.

БПЛА Kratos XQ-58 Valkyrie в сопровождении пары истребителей F-35

В целом инициатива CCA отражает стратегию Пентагона по увеличению автономии и взаимодействия между пилотируемыми и беспилотными системами, и становится ключевым элементом в планировании будущих военных операций. Однако это лишь капля в море американских инициатив и создаваемых институтов, цель которых – интеграция ИИ в боевые системы. 

Вот некоторые из наиболее результативных институтов США, которые заняты наращиванием ИИ технологий для САС.

DARPA (Агентство перспективных исследовательских проектов обороны) – одна из ведущих организаций, занимающаяся инновационными исследованиями и разработками в области оборонных технологий, включая ИИ, закладывая основу для новых военных систем. Среди программ DARPA, связанных с ИИ:

• Project Maven – инициатива, направленная на использование машинного обучения для анализа видеозаписей с дронов и автоматического выявления объектов на поле боя;
• OFFSET (Offensive Swarm-Enabled Tactics) – программа, фокусирующаяся на разработке тактики для использования роя дронов, управляемых ИИ, в городских условиях;
• XAI (Explainable AI) – проект по созданию объяснимого ИИ, который позволяет пользователям лучше понимать решения, принимаемые автономными системами.

CDAO (Chief Digital and Artificial Intelligence Office – Главный офис по цифровому и искусственному интеллекту) был основан в 2022 г. для координации всех проектов, связанных с ИИ, в военной сфере. Задача CDAO – ускорить разработку и внедрение ИИ-технологий в интересах национальной безопасности. Основное направление работы – анализ больших данных, получаемых с разведывательных систем, спутников и дронов. Также центр отвечает за разработку унифицированных стандартов и протоколов для внедрения ИИ в различные подразделения армии, флота и ВВС США.

DIU (Defense Innovation Unit – Управление по оборонным инновациям) – это подразделение министерства обороны США, работающее над ускоренным внедрением коммерческих ИИ-технологий в военные программы. DIU активно сотрудничает с технологическими стартапами и компаниями из Силиконовой долины, что позволяет быстро тестировать и внедрять новые решения. Примеры проектов DIU:

• Predictive Maintenance – использование ИИ для предсказания поломок военной техники и повышения ее надежности.
• Autonomous Maritime Systems – разработка автономных морских платформ, способных выполнять миссии разведки и патрулирования. 

AFRL (Air Force Research Laboratory – Центр исследований и разработок ВВС США) уделяет особое внимание созданию автономных летательных аппаратов и ИИ-алгоритмов для военных миссий. Основные проекты AFRL:

• Skyborg – создание очередного автономного «лояльного ведомого», который будет действовать в связке с пилотируемыми истребителями.
• Autonomous Collaborative Platforms – разработка беспилотных систем, способных координироваться друг с другом и выполнять сложные миссии без участия человека.

NIST (Национальный институт стандартов и технологий) играет важную роль в разработке стандартов и рекомендаций по использованию ИИ в оборонной сфере, внедряя протоколы безопасности и тестирования для обеспечения надежности, предсказуемости и объясняемости ИИ-систем, используемых в военных приложениях.

Китай

Программа «Лояльный ведомый» (Loyal Wingman) – аналог американской ССА. В частности, беспилотник GJ-11 Sharp Sword («Острый меч») уже демонстрировал свои возможности в качестве боевого дрона-напарника.

Инициатива «Интеллектуальная война» (Intelligentized Warfare) как концепция включена в военную доктрину Китая. Фокус здесь сделан на использовании ИИ и машинного обучения для создания интеллектуальных боевых систем, которые могут анализировать большие объемы данных и принимать решения в реальном времени. В рамках этой инициативы НОАК создает новые подразделения, занимающиеся разработкой и тестированием автономных систем.

Институт искусственного интеллекта при Академии военных наук НОАК. В 2018 г. Китай создал этот институт при Академии военных наук, занимается он разработкой военных ИИ-технологий и стратегий их применения, координирует исследования в области автономных систем и работает над созданием передовых алгоритмов, способных управлять беспилотниками и другими роботизированными платформами в условиях высокой неопределенности.

Проект «Роевой интеллект» (Swarm Intelligence). В 2020 г. были проведены масштабные испытания с использованием сотен дронов, которые демонстрировали возможность работы в сложных условиях и преодоления систем противовоздушной обороны. Такие рои могут быть использованы для разведки, подавления ПВО противника и выполнения атакующих операций.

К основным и признанным в официальных документах целям Китая относится в первую очередь достижение технологического паритета с США в области военных ИИ-технологий, что подтверждается значительными инвестициями в исследования и разработки. В рамках Национальной стратегии развития искусственного интеллекта, утвержденной в 2017 г., Китай планирует стать мировым лидером в области ИИ к 2030 г. 

Китайские разработчики фокусируются на создании систем с высокой степенью автономности, которые могут самостоятельно принимать решения и адаптироваться к изменяющимся условиям на поле боя. Это включает беспилотные наземные, воздушные и морские системы. Кроме того, в Китае активно применяется ИИ для анализа спутниковых изображений, перехвата радиосигналов и других видов разведывательных данных.

ИИ воспринимается как неотъемлемая часть стратегии модернизации НОАК, что позволяет Китаю укреплять свои позиции на мировой арене и вести технологическое соперничество с США и другими ведущими державами на равных, и даже превосходя большинство из них по темпам разработок и внедрения.

Россия

В 2021 г. Министерство обороны РФ объявило о создании специализированного управления, занимающегося вопросами развития и внедрения технологий искусственного интеллекта в оборонные системы. Это новое управление, входящее в состав Генерального штаба, было сформировано с целью координации исследований и разработок в области ИИ, а также интеграции ИИ-алгоритмов в существующие и перспективные военные программы.

В задачи нового подразделения входит создание автоматизированных ИИ-систем управления боем для анализа данных и планирования боевых операций. Разработки ведутся и в области логистики и предсказательной аналитики, а также автоматизации процессов снабжения и предсказания технических неисправностей.

Из известных проектов можно выделить следующие:

• Дрон-ведомый Су-70 «Охотник», разрабатываемый в сотрудничестве с компанией «Сухой», предназначен для выполнения миссий в связке с истребителями Су-57. «Охотник» оснащен ИИ и способен выполнять автономные разведывательные и боевые операции. 
• Боевой робот «Уран-9» – автономная наземная система для выполнения задач разведки и огневой поддержки. Несмотря на некоторые проблемы, выявленные во время испытаний в Сирии, проект демонстрирует высокий потенциал для использования ИИ в наземных операциях.
• Беспилотный подводный аппарат с элементами ИИ «Посейдон» – уникальный проект, предназначенный для автономного выполнения стратегических миссий, включая разведку и нанесение ударов. Аппарат может нести мощный ядерный заряд и имеет уникальные характеристики скрытности. Носителем «Посейдонов», насколько известно, является подводная лодка «Белгород».

Фонд перспективных исследований (ФПИ) – исследовательская организация, созданная для разработки передовых технологий в интересах обороны. Фонд активно занимается проектами в области ИИ. В частности, это Проект «Марс» – разработка роботизированных платформ для выполнения боевых задач. При поддержке фонда также ведутся исследования в области компьютерного зрения и обработки данных для анализа спутниковых снимков и видеозаписей с беспилотников. Проектируются автономные подводные аппараты с ИИ-алгоритмами для автономных подводных дронов.

ЦНИИ робототехники и технической кибернетики – один из ведущих центров по разработке военных ИИ-технологий в России. К проектам института относятся роботизированные боевые комплексы, такие как «Уран-9», которые могут использовать ИИ для распознавания целей и навигации в сложных условиях. Также институту принадлежит ряд разработок по внедрению ИИ-алгоритмов в системы управления ракетным вооружением и противовоздушной обороной.

Национальный центр развития технологий и базовых элементов робототехники – это структура, координирующая работы по созданию передовых роботизированных систем и ИИ для различных сфер, включая оборонную. Центр занимается разработкой ключевых компонентов, таких как алгоритмы машинного обучения и программного обеспечения для автономных дронов. Интеграция ИИ в системы управления боевыми машинами и адаптация ИИ для автоматизации процессов в танках и других бронемашинах также входит в круг задач центра.

Концерн «Калашников» активно участвует в разработке автономных систем. Ему принадлежит, в частности, разработка боевой автономной наземной платформы «Соратник» для выполнения разведывательных и боевых задач, и еще ряд проектов по созданию роботизированных дронов как наземного, так и воздушного применения. 

Центр компетенций по искусственному интеллекту при Сколково активно занимается исследованиями в области ИИ, часть которых направлена на развитие технологий для обороны. Основные проекты включают разработку систем анализа больших данных для военных целей, создание ИИ-алгоритмов для обработки данных с разведывательных дронов и спутников, проекты по созданию алгоритмов управления автономными боевыми платформами.

Военные технополис ЭРА занимается как подготовкой военнослужащих для работы с ИИ-технологиями широкого спектра, так и совместными с разными исследовательскими центрами разработками в интересах Минобороны РФ.

Видно, что российская система разработки ИИ для военных целей включает широкий спектр организаций и ведомств, работающих в тесном сотрудничестве. Общая цель всех этих структур – обеспечение конкурентоспособности России в новой глобальной гонке вооружений, а их задачи – исследования, разработки и тестирование новых технологий, часто двойного назначения.

Европейский Союз

Евросоюз также стремится укрепить свою обороноспособность и обеспечить технологическую независимость, особенно в условиях быстрого развития военных ИИ-технологий в США, Китае и России. Вот лишь некоторые из организаций, активно разрабатывающих автономные системы.

EDA (European Defence Agency – Европейское оборонное агентство) играет ключевую роль в координации исследований и разработок в области обороны в странах-членах ЕС. EDA активно продвигает программы, связанные с использованием ИИ в военных целях, и координирует совместные проекты по разработке новых технологий. 

Проект агентства HyMUP (Hybrid Manned-Unmanned Platooning) направлен на тестирование осуществимости боевых миссий беспилотных систем, координируемых с обычными наземными транспортными средствами.

EDA PASEI (Protection Against Enemy Interference) – комплексная защита автономных систем и комбинированных пилотируемых и беспилотных миссий от вмешательства противника. 

В военно-морской области работает программа беспилотных морских систем UMS, которая состоит из 15 скоординированных проектов, направленных преимущественно на противоминную борьбу. Завершенные проекты программы, такие как MLM (Modular Lightweight Minesweeping), направлены на вывод людей с минных полей и замену дорогостоящих пилотируемых судов на беспилотные решения.

NECSAVE (Networked Enable Cooperation Systems), сосредоточены на концепции роя для сетей связи.

Проект под названием SALSA (Smart Adaptive Long and Short Range Underwater Acoustics Networks) занимается дистанционно пилотируемыми авиационными системами RPAS (Remotely piloted aircraft system), в которых автоматизация и автономность – основные элементы.

EDA также играет ключевую роль в стандартизации и интеграция военных RPAS в европейское воздушное пространство. MIDCAS (MID air Collision Avoidance System) и ERA (Enhanced RPAS Automation) – основные проекты в этой области. 

EDF (European Defence Fund – Европейский фонд обороны) – это ключевая инициатива ЕС, направленная на финансирование инновационных проектов в оборонной сфере, включая ИИ. EDF поддерживает исследования и разработки в области ИИ и технологий автономных систем, а также стимулирует сотрудничество между государствами-членами ЕС и частным сектором. 

Один из проектов этого фонда – MUSAS (Military Unmanned Systems and Autonomous Solutions) направлен на создание автономных систем для разведки и патрулирования. 

AI4Defence – инициатива, направленная на разработку алгоритмов ИИ для анализа данных, автоматизации процессов командования и управления войсками.

PESCO (Permanent Structured Cooperation – Постоянное структурированное сотрудничество в области обороны) – программа ЕС, частью которой также является разработка автономных систем В программу входит Eurodrone – совместный проект Франции, Германии, Испании и Италии по созданию европейского беспилотного летательного аппарата, который будет оснащен ИИ для выполнения миссий разведки и наблюдения. Также следует упомянуть проект Autonomous (Autonomous Modular Systems for Defence Applications) – создание модульных автономных систем для различных военных задач на основе ИИ-алгоритмов.

EUSPA (Европейское агентство космических программ) внедряет в спутниковые технологии специальные возможности по анализу снимков и данных для повышения ситуационной осведомленности в реальном времени.

В других странах

Наиболее заметных результатов в области разработки автономных систем добились в Израиле, Турции, Индии. Вот лишь краткий перечень организаций и разрабатываемых образцов.

Израиль – лидер в области барражирующих боеприпасов и автономных дронов.

Основные организации:

• Israel Aerospace Industries (IAI) – ведущий разработчик барражирующих боеприпасов и автономных систем, таких как IAI Harpy и IAI Harop.
• Rafael Advanced Defense Systems – занимается разработкой систем противоракетной обороны с использованием ИИ, таких как Iron Dome.
• Elbit Systems – компания, специализирующаяся на создании автономных дронов и беспилотных наземных систем.

Турция – быстро развивающийся рынок военных ИИ-технологий. Основные организации в этой сфере:

• STM – турецкая компания, разработавшая дрон Kargu-2, способный действовать в автономном режиме.
• Baykar Technologies – производитель известного беспилотника Bayraktar TB2, который активно используется в военных конфликтах.
• ASELSAN – компания, занимающаяся разработкой систем управления огнем и автономными платформами.

Индия – растущая ИИ-экосистема с амбициозными планами, она делает акцент на развитие автономных летательных аппаратов и беспилотных систем для патрулирования и разведки. Среди наиболее крупных организаций:

DRDO (Организация оборонных исследований и разработок) – это основная структура, занимающаяся разработкой военных технологий, включая ИИ. DRDO разрабатывает автономные наземные и воздушные платформы, а также внедряет ИИ в системы управления боем и анализа данных.

Hindustan Aeronautics Limited (HAL) – компания, работающая над созданием автономных летательных аппаратов.

Tata Advanced Systems активно участвует в проектах по разработке ИИ для военных целей широкого спектра. 

Индия в целом пока отстает от конкурентов в части создания полностью автономных систем, но стремится сократить технологический разрыв путем крупных инвестиций в исследования и развитие партнерств с международными компаниями.

Саудовская Аравия и ОАЭ – центры инноваций на Ближнем Востоке.

Saudi Arabian Military Industries (SAMI) и King Abdulaziz City for Science and Technology (KACST) – ведущие институты в Саудовской Аравии, занимающиеся разработками в области ИИ.

EDGE Group (ОАЭ) – крупнейший производитель военной техники в ОАЭ, также работающий над проектами в области ИИ.

В целом Саудовская Аравия и ОАЭ активно развивают ИИ-экосистему, ориентированную на создание автономных систем для патрулирования, разведки и анализа данных. ОАЭ разрабатывают дроновые системы и активно сотрудничают с международными компаниями. Саудовская Аравия инвестирует в исследования и создает инновационные центры, такие как NEOM AI Hub, для ускорения разработки ИИ-технологий при активном привлечении иностранных специалистов. Акцент делается на создание локальной экосистемы ИИ и технологической независимости.

Международные инициативы – иллюзия контроля

Дискуссии о регулировании автономных систем вооружений (САС) проводятся постоянно, однако скорее всего не приведут к реальному консенсусу. На данный момент международные инициативы, направленные на сдерживание использования САС, в основном ограничиваются декларативными заявлениями и рекомендациями.

Конвенция о некоторых видах обычного оружия, также известная как Конвенция о «негуманном» оружии (ССW), была принята в 1980 г. и направлена на ограничение или запрет применения оружия, вызывающего чрезмерные страдания. Хотя изначально конвенция не касалась ИИ, в 2013 г. в рамках CCW была создана Группа правительственных экспертов для обсуждения вопросов, связанных с автономными системами вооружений.

Основные вопросы, рассматриваемые Группой:

• Введение «значимого человеческого контроля» (Meaningful Human Control, MHC) над автономными системами.
• Ограничения на использование полностью автономных систем, способных самостоятельно выбирать и атаковать цели.
• Возможность введения моратория или полного запрета на САС.

На данный момент CCW остается основным международным форумом для обсуждения правового регулирования военного ИИ, но значимых результатов по теме САС ей добиться не удается.

Кампания Stop Killer Robots, начатая в 2013 г., представляет собой инициативу коалиции более 250 неправительственных организаций более чем из 60 стран. Цель кампании – полный запрет автономных систем вооружений, которые могут принимать решения об использовании смертоносной силы без участия человека. Кампания ставит следующие цели:

• Запрет на разработку и использование автономного оружия.
• Введение международных норм и законов, ограничивающих применение военного ИИ.
• Признание автономных систем вооружений аналогом химического и биологического оружия, что позволит регулировать их на основе существующих международных конвенций.

В 2013 г. в ООН был представлен доклад специального докладчика по вопросам внесудебных казней Кристофа Хейнса, который впервые ввел термин «Боевые автономные роботизированные системы» (БАРС). В своем докладе Хейнс поднял следующие вопросы:

• Необходимость введения моратория на разработку полностью автономных боевых систем до создания правовых и этических норм.
• Проблемы правовой ответственности за действия автономных систем.
• Риск нарушений норм международного гуманитарного права (МГП) и необходимость разработки механизмов контроля.

Этот доклад стал отправной точкой для более активного обсуждения вопросов регулирования автономных вооружений в рамках ООН.

В 2023 г. Генеральная Ассамблея ООН провела голосование по проекту резолюции L.56, посвященной вопросам регулирования автономных систем вооружений. Основные положения резолюции:

• Призыв к разработке международных правовых норм для контроля над САС.
• Обращение к государствам с просьбой воздерживаться от разработки и использования полностью автономных боевых систем до принятия международного договора.
• Поддержка идеи введения добровольного кодекса поведения для стран, разрабатывающих военные ИИ-технологии.

Большинство стран-участниц поддержали резолюцию, однако США, Китай и Россия высказали возражения против полного запрета, ссылаясь на необходимость развития технологий для обеспечения национальной безопасности и стратегического паритета. В результате любые дискуссии активистов и декларации правозащитников оказались, мягко говоря, малоэффективными.

Фактически, вместо сдерживания, мы наблюдаем гонку вооружений на основе и с использованием ИИ. Ведущие мировые державы и не только продолжают наращивать инвестиции в разработку САС, видя в этом стратегическое преимущество и возможность компенсировать недостаток живой силы.

Противоречия и прогнозы

Разработка автономных систем вооружений – это неизбежный этап эволюции военных технологий. В ближайшие годы мы, вероятно, станем свидетелями появления первых массовых образцов боевых роботов, которые будут использоваться в реальных операциях. Их распространение изменит характер военных конфликтов и поставит новые вызовы перед международным сообществом.

Анализируя данные и факты о разработке САС в США, Китае, России, Израиле, Турции и других странах, можно сделать следующие выводы. На международном уровне активно обсуждаются вопросы регулирования автономных систем вооружений. ООН, Международный комитет Красного Креста и ряд неправительственных организаций призывают к введению ограничений или даже полному запрету на использование САС. Однако на практике ведущие державы продолжают увеличивать инвестиции и ускоряют разработку САС.

Все это создает очевидное противоречие между риторикой на международных форумах и реальностью.

• Антониу Гутерриш, Генеральный секретарь ООН, заявил: «Полностью автономное оружие должно быть запрещено в соответствии с международным правом. Мы не можем позволить машинам решать, кому жить, а кому умирать». Однако в тот же период США анонсировали масштабную инициативу Replicator, направленную на массовое производство автономных систем.
• Си Цзиньпин, Председатель КНР, заявлял о необходимости соблюдения международного гуманитарного права и избегания гонки вооружений, но при этом Китай активно развивает свои автономные платформы и тестирует рои дронов, управляемых ИИ, в реальных условиях.
• Франция и Германия, выступающие за введение значимого человеческого контроля над автономными системами, продолжают участвовать в программе Eurodrone, которая предусматривает создание автономных дронов для разведки и наблюдения.
• Турция, несмотря на призывы к ограничению автономных систем, активно использует дроны Kargu-2, способные действовать в автономном режиме и выбирать цели без участия человека, что было задокументировано в отчете ООН по конфликту в Ливии.

Еще одно противоречие связано с использованием технологий двойного назначения. Многие ИИ-разработки, изначально предназначенные для гражданского применения, быстро находят свое место в военных системах. Это усложняет контроль и регулирование, так как любые технологии могут быть адаптированы для военных целей.

• В Project Maven министерства обороны США использовались алгоритмы, разработанные для анализа видеозаписей в коммерческих целях, для военного анализа разведывательных данных с дронов. Это вызвало протесты сотрудников Google, участвовавших в проекте, и подняло вопросы о прозрачности и ответственности при использовании гражданских ИИ-технологий в военной сфере.
• Китайские компании, такие как DJI, разрабатывают коммерческие дроны, которые затем используются в военных операциях, например, для разведки и корректировки артиллерийских ударов.

Таким образом, международное право в области регулирования автономных систем вооружений остается фрагментированным и малоэффективным. Хотя существует Конвенция о некоторых видах обычного оружия (CCW), ее положения не охватывают все аспекты использования ИИ в военных целях. Противоречия возникают между декларациями о необходимости контроля и реальным отсутствием юридически обязывающих норм.

Можно заключить, что глобальная гонка вооружений с использованием ИИ продолжается, несмотря на международные заявления о необходимости сдерживания, что указывает на глубокое противоречие между риторикой и практикой. 

Мы стоим на пороге новой эпохи. Одни эксперты видят в ИИ возможность повысить эффективность военных операций и снизить человеческие потери, другие опасаются неконтролируемых последствий.

Что на самом деле принесет внедрение ИИ в военные конфликты: эпоху гуманизации войн или эскалацию и усложнение конфликтов до непредсказуемого уровня? САС, вероятнее всего, будут внедряться и распространяться при поддерживающей риторике именно тех военных теоретиков и практиков, которые указывают на снижение потерь в живой силе и возможности более точных и точечных ударов по критической инфраструктуре противника, исключая жертвы среди гражданского населения. Но это только риторика, которая направлена на легитимизацию военного ИИ в глазах мировой общественности.

А какие результаты и последствия для глобальной безопасности ожидают человечество с учетом асимметричной природы внедрения технологий ИИ, увы, предсказать невозможно, ведь черные лебеди не нуждаются в одобрении.

©«Новый оборонный заказ. Стратегии» 
№ 1 (90), 2025 г., Санкт-Петербург