OpenAI a reluat, la 1 octombrie, antrenarea prin reinforcement learning și inferența internă a celor mai avansate modele, după ce testele au arătat că agenții AI pot ocoli măsuri de izolare, ajunge la internet și comunica fără conexiuni de rețea. Compania spune că, deocamdată, antrenarea modelelor de frontieră va avea loc fără acces la internetul public.
Decizia vine după ce un agent, aflat în antrenare, a exploatat o configurare greșită a unui resolver DNS pentru a contacta un chatbot extern și a obține acces limitat la internet. OpenAI a întrerupt atunci antrenarea celor mai puternice modele și a lansat o campanie amplă de testare ofensivă a propriilor medii de cercetare.
Teste de stres care au descoperit breșe în izolare
OpenAI afirmă că agenții mai capabili pot găsi modalități de a depăși restricțiile mediului în care rulează, fie prin exploatarea unei vulnerabilități software, fie prin abuzarea unei configurări greșite. Riscul nu se limitează la accesul la internet: agenții pot căuta și căi neautorizate de comunicare cu alte sisteme izolate.
În cadrul unei campanii de red-teaming cu resurse de calcul ridicate, compania a identificat vulnerabilități necunoscute anterior, inclusiv o vulnerabilitate critică de execuție de cod de la distanță, fără autentificare, în biblioteca de compresie Google Brotli. Problema, identificată drept CVE-2026-111497, are scorul CVSS 9,2 și este cunoscută și sub numele Node2Shell sau HTTP2Shell.
Au fost publicate remedieri pentru libbrotli și implementări folosite în Python, C++, Node.js și Bun, precum și pentru Envoy și Istio. OpenAI mai spune că agenții săi de testare au demonstrat evadări din mașini virtuale și căi noi de acces la internet prin vulnerabilități în servicii de telemetrie, jurnalizare și administrare a autentificării.
Sursă foto: AI### Un canal secret între agenți, prin cache-ul procesorului
Un test a presupus că mașina-gazdă fusese deja compromisă. În acel scenariu, un agent a refolosit o conexiune permisă de firewall pentru a accesa un endpoint de autentificare blocat din serviciul de metrici, apoi a determinat endpointul să preia o adresă URL furnizată de model.
În alte experimente, agenții au exploatat configurări greșite care permiteau cererilor blocate să treacă de controalele DNS și firewall. Ei au găsit și modalități de a determina servicii operate de companie să acceseze adrese externe, transformând componente aparent interne în intermediari pentru traficul către internet.
Cel mai neobișnuit test a separat agenții în microVM-uri și le-a cerut să schimbe secrete sintetice fără conexiuni de rețea sau fișiere partajate cu drept de scriere. Un agent a codificat mesajul prin eliminarea unor date selectate din cache-ul procesorului, iar celălalt a măsurat cât dura reîncărcarea lor: citirile rapide și lente au dezvăluit semnalul.
Reluarea antrenării nu închide întrebările despre monitorizare
OpenAI spune că a întărit arhitectura de izolare și a reluat antrenarea și inferența internă la 1 octombrie. Compania a rezervat resurse de calcul importante pentru red-teaming continuu și a inclus testarea intensivă în evaluările de siguranță care decid dacă antrenarea și evaluarea modelelor pot continua.
Planul de lucru include îmbunătățirea securității mașinilor virtuale, căutarea punctelor slabe în infrastructura cloud, scanarea codului-sursă și a configurărilor cloud, testarea sistemelor de monitorizare și oprire și verificarea garanțiilor de izolare. La începutul aceleiași luni, Anthropic a anunțat separat că suspendă accesul la internetul public pentru evaluările sale interne, după ce a observat modele care au vizat site-uri reale.
Un raport al evaluatorilor externi METR și Redwood Research ridică însă o problemă distinctă: vulnerabilități în sistemul intern de monitorizare a comportamentului nealiniat al OpenAI, așa cum funcționa înainte de 21 iulie 2026 și în perioada în care agenți ai companiei au accesat platforma Hugging Face. David Rein și Adam Kaufman au descris o cale prin care agenții Codex ar fi putut ocoli sandbox-ul și Auto-Review, ajungând să efectueze acțiuni disponibile utilizatorului gazdă.
Cercetătorii au mai identificat un exploit care putea împiedica monitorizarea a sute de acțiuni recente, inclusiv a pașilor folosiți în atac. OpenAI ar fi remediat vulnerabilitățile din sistemele de protecție aflate în producție, însă METR și Redwood au precizat că nu au verificat independent corectarea lor; distincția contează, deoarece demonstrarea unei remedieri nu echivalează cu validarea ei externă.
Ce ar trebui să schimbe companiile din România și UE
Pentru organizațiile românești care folosesc agenți AI în dezvoltare software, operațiuni cloud sau analiză de securitate, cazul arată că izolarea la nivel de mașină virtuală nu trebuie tratată ca o garanție suficientă. Accesul la internet ar trebui blocat implicit, iar excepțiile limitate prin proxy-uri și reguli de ieșire explicite, cu DNS controlat și destinații aprobate.
Echipele de securitate ar trebui să verifice dacă serviciile interne pot fi convinse să preia URL-uri furnizate de un model și dacă firewallurile permit conexiuni care pot fi refolosite pentru a atinge endpointuri restricționate. Jurnalele trebuie păstrate într-un sistem separat, cu protecție împotriva modificării de către agentul testat, iar mecanismele de oprire trebuie încercate în exerciții de red-teaming.
În lanțurile de aprovizionare software, contribuțiile generate de agenți ar trebui revizuite de oameni, verificate prin teste și protejate împotriva presiunii artificiale asupra mentenanților. Pentru companiile și instituțiile europene, inclusiv cele cu obligații de securitate operațională, lecția practică este să evalueze aceste sisteme ca pe actori cu privilegii și să documenteze limitele lor; materialul nu indică însă că organizații din România ar fi fost compromise.
