Google avansează agenții AI Gemini pentru Pentagon în ciuda opoziției

Agenții AI Google Gemini sprijină sarcini pe rețelele neclasificate ale Pentagonului

Google va furniza agenți AI alimentați de Gemini Departamentului de Apărare al SUA pentru activități neclasificate pe rețelele Pentagonului, conform news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work" target="_blank" rel="nofollow noopener">Bloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai). Subsecretarul de Apărare pentru Cercetare și Inginerie, Emil Michael, a anunțat că agenții vor funcționa inițial pe rețele neclasificate care deservesc peste 3 milioane de angajați ai departamentului. Departamentul și-a semnalat, de asemenea, interesul pentru extinderea agenților la sistemele clasificate sau strict secrete, dar faza actuală rămâne neclasificată.

Această implementare este concepută ca sprijin pentru sarcini pe rețelele neclasificate ale Pentagonului. De asemenea, ridică imediat întrebări de guvernanță, pe măsură ce cererea militară întâlnește barierele de siguranță impuse de furnizori.

De ce contează acest lucru pentru guvernanță, etică și operațiunile de apărare

Conform raportării TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai), Secretarul Apărării a îndemnat companiile să permită o utilizare mai largă a AI pentru "toate scopurile legale", semnalând presiunea de a relaxa restricțiile modelelor. Această poziție amplifică implicațiile de achiziție, conformitate și supraveghere în fluxurile de lucru ale apărării. Furnizorii cu limite stricte pot înfrunta fricțiuni contractuale dacă limbajul pare să permită autonomie dincolo de politicile lor.

Munca academică subliniază că riscul crește pe măsură ce autonomia agenților AI crește și supravegherea umană se diminuează, bazat pe cercetarea arXiv (https://arxiv.org/abs/2502.02649?utm_source=openai). Pentru operațiunile de apărare, această dinamică face ca auditabilitatea, pragurile de escaladare și atribuirile de responsabilitate să fie centrale pentru implementarea în siguranță.

Anthropic reprezintă o abordare contrastantă, refuzând să relaxeze barierele de protecție în jurul armelor complet autonome sau al supravegherii interne de masă. "nu poate respecta în deplină conștiință" aceste aspecte, a declarat Dario Amodei, CEO, conform raportării AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai). Această poziție subliniază modul în care politicile furnizorilor pot limita anumite aplicații de apărare chiar și atunci când utilizarea ar putea fi permisă legal.

Impactul imediat este limitat: agenții AI Google Gemini sunt restricționați la rețelele neclasificate ale Pentagonului în această fază. Acest domeniu permite echipelor operaționale să evalueze fiabilitatea și conformitatea cu politicile înainte de orice implementare mai largă.

Limitele cheie includ barierele de protecție ale furnizorilor care interzic anumite utilizări și presiunea departamentală pentru autorizarea "tuturor scopurilor legale". Pașii următori depind de limbajul contractual, revizuirile de risc și alinierea dintre barierele de protecție ale modelelor și politica de apărare.

Tensiuni cheie: autonomie, supraveghere și bariere de protecție ale furnizorilor

Presiunea DoD pentru toate scopurile legale versus bariere stricte de protecție

Cererea departamentului pentru "toate scopurile legale" creează fricțiuni cu furnizorii care mențin limite stricte de siguranță. Esența este cât de departe poate ajunge autonomia păstrând în același timp responsabilitatea umană și supravegherea. Această tensiune va modela delimitarea, criteriile de acceptare și căile de escaladare pentru agenții AI.

Refuzul Anthropic privind armele autonome și riscurile supravegherii de masă

Anthropic a trasat o linie roșie clară prin refuzul utilizărilor legate de arme complet autonome sau supraveghere internă de masă, conform declarațiilor publice ale conducerii sale. Această poziție restrânge anumite căi de apărare și prioritizează sistemele controlate de oameni.

Întrebări frecvente despre agenții AI Google Gemini

Va extinde DoD acești agenți AI de la sisteme neclasificate la sisteme clasificate sau strict secrete și pe ce calendar?

Departamentul și-a semnalat interesul pentru extinderea la rețele clasificate sau strict secrete; nu a fost divulgat niciun calendar public.

Cum afectează refuzul Anthropic de a relaxa barierele de protecție achiziția și politica AI a Pentagonului?

Reduce modelele eligibile și presează contractele să păstreze bariere stricte de protecție, influențând limbajul de utilizare acceptabilă, așteptările de supraveghere și capabilitățile pe care le poate adopta Pentagonul.