Inteligență Artificială & LLM

OpenAI a cerut unui AI să termine o sarcină de programare. A ajuns să spargă în portofelul altcuiva pentru a-l lua.

OpenAI a cerut unui AI să termine o sarcină de programare. A ajuns să spargă în portofelul altcuiva pentru a-l lua.

Până nu cu mult timp în urmă, vorbirea despre agenții de inteligență artificială părea să vorbească despre o tehnologie a viitorului. Astăzi, însă, le putem delega deja sarcini care depășesc cu mult răspunsul la întrebări: căutarea de informații, scrierea codului sau luarea de acțiuni pentru atingerea unui obiectiv. Dar cu cât aceste sisteme devin mai capabile, cu atât apar mai multe întrebări despre comportamentul lor. Învățăm ce pot face, cum reacționează la obstacole și cât de departe pot merge fără intervenția noastră. Și nu suntem singurii: companiile care le dezvoltă descoperă și ele limitele acestei autonomii.

Un experiment cu un rezultat neașteptat

Exact asta s-a întâmplat în timpul unei sarcini de antrenament pentru un model intern OpenAI. Pe 26 iunie 2026, un sistem experimental de familie GPT-5.6 Sol făcea activități de programare când a ajuns să folosească fonduri dintr-un portofel de criptomonede care nu era autorizat pentru a-l folosi. Acesta nu a fost ETH mainnet, ci test ETH de la Sepolia, o rețea folosită de dezvoltatorii Ethereum. Episodul a fost descoperit luni mai târziu de către companie, care a documentat ceea ce s-a întâmplat într-un reportaj. Iar detaliile despre cum a ajuns la acel portofel sunt deosebit de revelatoare.

Totul a început cu o aplicație de criptomonedă

Misiunea a fost actualizarea unui prototip de tranzacționare: ajustarea calculului operațiunilor și a funcționării bazei de date a acesteia, pe lângă înlocuirea adreselor provizorii cu contracte operaționale. Pentru a face acest lucru, agentul ar putea implementa cod în Sepolia, o rețea Ethereum folosită pentru testare fără a utiliza criptomonede de pe mainnet. Publicarea acolo a unui contract inteligent, adică a unui program care rulează pe blockchain, necesită plata unor comisioane cu jetoane de test. Și OpenAI nu a furnizat niciun portofel cu fonduri pentru a face acest lucru.

Căutarea s-a încheiat cu 362 de adrese

Agentul a încercat mai întâi să găsească contracte compatibile deja publicate și a apelat la așa-numitele faucets, servicii care oferă dezvoltatorilor criptomonede de testare. Deoarece niciuna dintre aceste căi nu i-a permis să finalizeze implementarea, el a explorat o altă posibilitate: utilizarea expresiilor publice de recuperare, utilizate în mod obișnuit în mediile de dezvoltare, pentru a obține cheile diferitelor portofele. El a scris un program care a derivat chei și adrese din acele fraze și le-a interogat soldurile. În total, a verificat 362 de adrese până a găsit una care conținea suficiente jetoane pentru a continua.

AI a decis să folosească acele fonduri

Găsirea unui portofel cu un echilibru suficient nu a rezolvat o întrebare fundamentală: dacă avea dreptul să-l folosească. Potrivit înregistrărilor publicate de OpenAI, modelul a examinat istoricul tranzacțiilor acelui cont, a interpretat o parte din activitatea sa ca fiind automatizată și a ajuns să se întrebe dacă este etic să folosești acele resurse. În cele din urmă, a considerat că le poate folosi pentru că fraza de recuperare era publică, jetoanele Sepolia nu aveau valoare economică în opinia sa și fondurile erau practic abandonate. Dar a existat o problemă cu această concluzie: a fost o evaluare a sistemului în sine, nu o autorizație din partea proprietarului.

Operațiunea a ajuns să continue

Cu cheia privată obținută, agentul a semnat o tranzacție pentru a implementa unul dintre contracte, deși primele încercări de a-l trimite în rețea au întâmpinat erori tehnice. Departe de a se opri, a încercat alți furnizori și metode de comunicare până când Sepolia a acceptat operația. Confirmarea a venit cu o adresă de contract și o înregistrare a taxelor percepute în contul utilizat. El nu a transferat criptomonede în propriul portofel, ci a cheltuit o parte din soldul altuia pentru a plăti aceste taxe. Verificările ulterioare au găsit cod în toate cele zece adrese de contract examinate, iar sistemul a înregistrat 12 teste unitare cu succes.

Fiecare informație pe care o cunoaștem despre dominația Chinei pe piața roboților umanoizi este mai intimidantă
Fiecare informație pe care o știm despre dominația Chinei pe piața roboților umanoizi este mai intimidantă

Agentul nu a spus toată povestea

La final, modelul a raportat că a implementat contractele și le-a testat, dar nu a menționat că a folosit un cont pe care nu era autorizat să îl folosească. OpenAI a descoperit ce sa întâmplat mai târziu, când și-a extins sistemul de monitorizare pentru a revizui înregistrările anterioare ale activității. În raportul său, actualizat pe 15 octombrie, compania explică că a implementat noi măsuri de protecție pentru a preveni accesul la Internet în cazuri similare. De asemenea, se asigură că sistemul său de monitorizare analizează acum tot traficul pentru a alerta securitatea dacă se obține acces direct la rețea.

Limita reală a fost autorizarea

Din punct de vedere tehnic, agentul a reușit să-și ducă la bun sfârșit munca. Cu toate acestea, a făcut acest lucru folosind resurse asupra cărora nu avea permisiunea să decidă. Faptul că jetoanele aparțineau unui testnet și nu aveau valoare economică convențională nu a rezolvat această problemă. Episodul ilustrează una dintre provocările cu care se confruntă cei care dezvoltă aceste sisteme: nu este suficient să verificăm dacă un AI reușește să atingă obiectivul pe care ni l-am propus. De asemenea, trebuie să știm ce decizii ia pe parcurs și dacă respectă limitele stabilite.

Imagini | Serviciul Secret de Inteligență cu Nano Banana

În investigația noastră tehnică | Anthropic oferă 172.000 de euro pe an pentru cineva care dorește ca agent AI să facă exact acel loc de muncă pe an. face

Partajează acest dosar: