Протистояння з Пентагоном ставить під загрозу захисні механізми штучного інтелекту Anthropic та оборонний контракт на $200 мільйонів

Наростаюча напруга між провідною лабораторією штучного інтелекту та американським оборонним відомством переросла у конфлікт із високими ставками щодо anthropic ai та використання на полі бою.

Anthropic твердо протистоїть тиску Пентагону

Anthropic відмовилася виконати вимоги Міністерства оборони США щодо усунення ключових обмежень безпеки ШІ зі своїх систем, хоча її контракт на $200 мільйонів зараз під загрозою. Компанія дала зрозуміти, що не відступить у своїй суперечці з DoD щодо того, як її розширені моделі можуть бути розгорнуті в військових мережах.

Конкуренти стартапу OpenAI, Google та xAI отримали подібні нагороди DoD до $200 мільйонів у 2023 році. Однак ці компанії погодилися дозволити Пентагону використовувати їхні системи для всіх законних місій у несекретних середовищах військових, надаючи уряду ширшу операційну гнучкість.

На відміну від цього, Anthropic підписала власну угоду на $200 мільйонів з DoD у липні і стала першою лабораторією ШІ, яка вбудувала свої моделі безпосередньо в робочі процеси місій у секретних мережах. Більше того, її інструменти були інтегровані в чутливі оборонні операції, поставивши компанію в центр розбудови ШІ для національної безпеки США.

Переговори з офіційними особами Пентагону ставали все більш напруженими протягом останніх тижнів. Особа, обізнана з переговорами, повідомила, що тертя "розпочалися кілька місяців тому", задовго до того, як стало публічно відомо, що Claude використовувався в операції США, пов'язаній із затриманням президента Венесуели Ніколаса Мадуро.

Суперечка щодо спостереження та автономної зброї

В основі конфлікту лежить питання про те, наскільки далеко військові органи можуть просувати потужні моделі ШІ в напрямку спостереження та автономії. Anthropic прагне отримати обов'язкові гарантії того, що її технологія не буде використовуватися для повністю автономної зброї або для масового внутрішнього спостереження за американцями, тоді як DoD хоче уникнути таких обмежень.

Тим не менш, це не вузька комерційна розбіжність, а гучна суперечка щодо захисту ШІ з прямими наслідками для майбутньої автоматизації поля бою. Пентагон наполягає на максимальній законній свободі дій, тоді як Anthropic стверджує, що нинішнім системам ще не можна довіряти рішення про життя і смерть у масштабі.

У детальній заяві генеральний директор Даріо Амодеї попередив, що у "вузькому наборі випадків" штучний інтелект може "підривати, а не захищати демократичні цінності". Він підкреслив, що деякі застосування "просто виходять за межі того, що сьогоднішні технології можуть безпечно та надійно робити", наголошуючи на ризиках зловживань під час складних військових операцій.

Розширюючи питання спостереження, Амодеї стверджував, що потужні системи тепер дозволяють "зібрати ці розрізнені, індивідуально нешкідливі дані в повну картину життя будь-якої людини, автоматично та в масовому масштабі". Більше того, він застеріг, що така можливість, якщо спрямувати її всередину, може фундаментально змінити відносини між громадянами та державою.

Амодеї повторив, що Anthropic підтримує використання ШІ для законного збору зовнішньої розвідки. Однак він додав, що "використання цих систем для масового внутрішнього спостереження несумісне з демократичними цінностями", провівши тверду етичну межу між зарубіжною розвідкою та внутрішнім моніторингом осіб у США.

Загрози, терміни та правовий тиск

Боротьба за владу посилилася під час зустрічі у вівторок у Пентагоні між Амодеї та міністром оборони Пітом Хегсетом. Хегсет погрожував оголосити Anthropic "ризиком для ланцюга постачання" або застосувати Закон про оборонне виробництво, щоб примусити до виконання. У середу ввечері DoD надала те, що вона назвала своєю "останньою та остаточною пропозицією", даючи компанії до 17:01 ET у п'ятницю для відповіді.

Представниця Anthropic визнала отримання переглянутої мови контракту в середу, але сказала, що це представляє "практично жодного прогресу". За її словами, нове формулювання, представлене як компроміс, було поєднане з правовим формулюванням, яке фактично дозволило б критичним заходам безпеки "ігноруватися на власний розсуд", підриваючи заявлений захист.

Звертаючись до зростаючого тиску, Амодеї сказав: "Міністерство війни заявило, що укладатиме контракти лише з компаніями ШІ, які погодяться на 'будь-яке законне використання' та усунуть заходи безпеки у випадках, згаданих вище". Він додав, що офіційні особи погрожували відключити Anthropic від своїх систем і призначити фірму "ризиком для ланцюга постачання", якщо вона відмовиться; тим не менш, він наполягав: "ми не можемо з чистою совістю погодитися на їхній запит".

Для Пентагону питання формулюється по-іншому. Головний речник Шон Парнелл сказав у четвер, що DoD "не зацікавлена" використовувати системи Anthropic для повністю автономної зброї або проведення масового спостереження за американцями, зазначивши, що такі практики були б незаконними. Натомість він стверджував, що відомство просто хоче, щоб компанія дозволила використовувати свою технологію для "всіх законних цілей", описуючи це як "простий запит на основі здорового глузду".

Особисті атаки та публічна підтримка

Суперечка також набула особистого характеру на вищих рівнях. У четвер ввечері заступник міністра оборони США Еміль Майкл напав на Амодеї в X, стверджуючи, що керівник "не хоче нічого більше, ніж спробувати особисто контролювати військові США". Майкл пішов далі, написавши: "Шкода, що Даріо Амодеї брехун і має комплекс Бога".

Однак Anthropic отримала значну підтримку з боку частини технологічного сектору. У відкритому листі понад 200 працівників з Google та OpenAI публічно підтримали позицію компанії. Більше того, колишній офіційний представник DoD сказав BBC, що обґрунтування Хегсета для використання ярлика "ризик для ланцюга постачання" здавалося "надзвичайно слабким", викликаючи питання про обґрунтованість справи Пентагону.

Конфронтація також стала пробним каменем у ширшій дискусії щодо політики етики ШІ у військовій сфері. Дослідники ШІ та захисники громадянських свобод уважно стежать, розглядаючи цей випадок як ранній тест того, наскільки далеко оборонні агентства можуть підштовхувати приватні лабораторії до послаблення вбудованих обмежень на розширені системи.

Стратегічні ставки для оборонного ШІ США

Незважаючи на загострення риторики, Амодеї підкреслив, що він "глибоко вірить в екзистенційне значення використання ШІ для захисту Сполучених Штатів". Він представив питання як питання відповідального розгортання, а не опозиції національній обороні, стверджуючи, що довгострокова довіра до можливостей ШІ США залежить від дотримання демократичних норм.

Представник Anthropic сказав, що організація залишається "готовою продовжити переговори та віддана операційній безперервності для Міністерства та американських бійців". Однак, оскільки час до крайнього терміну Пентагону минає, а загрози призначення ризиком для ланцюга постачання все ще на столі, обидві сторони зіткнулися з тиском вирішити протистояння, не зупиняючи критичні інновації.

Зрештою, конфлікт Anthropic–Пентагон щодо захисту, спостереження та автономії став визначальним раннім випадком у військовому управлінні ШІ. Його результат, ймовірно, сформує те, як майбутні моделі anthropic ai та конкуруючі системи будуть контрактовані, обмежені та розгорнуті в оборонних операціях США.