Минобороны США проинформировало руководство подразделений вооруженных сил о необходимости прекратить использование и удалить ИИ-продукты компании Anthropic из своих систем в течение 180 дней. Распоряжение последовало вскоре за объявлением компании «угрозой национальной безопасности с точки зрения цепочки поставок» после отказа Anthropic снять этические ограничения на применение своих ИИ-продуктов Пентагоном.
CBS News со ссылкой на документ сообщает, что в нем содержится предписание удалить программы компании из ключевых систем национальной безопасности, включая системы ядерного оружия, противоракетной обороны и кибервойны. Кроме того, Пентагон требует, чтобы все организации-подрядчики Министерства прекратили использование всех продуктов Anthropic при работе над контрактами для Минобороны в течение тех же 180 дней.
Директор по информационным технологиям Пентагона Кирстен Дэвис заявила, что решение было принято, поскольку противники «могут использовать уязвимости» в инструментах Anthropic, применяемых в повседневной работе Министерства, что может привести к «потенциально катастрофическим рискам для военнослужащих». В то же время она добавила, что в отдельных случаях могут быть сделаны исключения – Дэвис заявила, что они «будут рассматриваться только для критически важных видов деятельности, непосредственно поддерживающих операции по обеспечению национальной безопасности, где нет жизнеспособной альтернативы». Кроме того, для получения разрешения на использование продуктов Anthropic – подразделение, запрашивающее исключение должно будет представить на утверждение всеобъемлющий план снижения рисков.
В публикации CBS указывают на беспрецедентный характер действий федерального правительства – власти США впервые признали американскую компанию представляющей угрозу для цепочки поставок. Ранее аналогичные меры по ограничению деятельности применялись только в отношении иностранных компаний – например китайской Huawei. Напомним, что разногласия между Пентагоном и Anthropic возникли на почве требований оборонного ведомства США о снятии ограничений с использования ИИ-модели Claude военными для «любых законных целей». В Anthropic в свою очередь потребовали гарантий того, что их модели не будут использоваться для ведения массового наблюдения за американцами и не будут задействованы в полностью автономных системах вооружений. Глава компании Дарио Амодей заявил, что пересечение этих «красных линий» противоречило бы американским ценностям.
На текущий момент Anthropic – это единственная компания, чьи модели ИИ развернуты в секретных системах Пентагона, однако это оборонное ведомство активно ведет переговоры с конкурентами компании. Так, недавно СМИ сообщали, что соглашение с Пентагоном об интеграции нейросети Grok в секретные военные системы подписала компания xAI. Также компания-разработчик ChatGPT – OpenAI заключила соглашение с Пентагоном и открыла доступ к своим инструментам для 3 млн сотрудников оборонного ведомства в несекретной сети под названием genai.mil, согласившись снять часть ограничений на использование своей модели.
Источник - CBS News
