Inteligență Artificială & LLM

OpenAI anulează lansarea GPT-6.1 Astra: propria echipă de securitate a văzut că modelul nu era de încredere

OpenAI anulează lansarea GPT-6.1 Astra: propria echipă de securitate a văzut că modelul nu era de încredere

OpenAI a suspendat GPT-6.1 Astra, modelul pe care plănuia să îl lanseze în octombrie, după ce cercetătorii săi au descoperit că sistemul nu a funcționat suficient de fiabil în timpul testării interne. Compania a confirmat decizia luni aceasta, după un articol publicat de The Wall Street Journal.

Pauză. În acest weekend, mai multe instituții de presă au raportat că a întrerupt unul dintre cele mai puternice modele de antrenament OpenAI, fără a avea unul dintre cele mai puternice modele de antrenament OpenAI. specificând chiar și despre ce a fost, după încercarea de piratare a agenților săi AI în mai multe site-uri web ale guvernului Statelor Unite și alte episoade neregulate.

Înainte de asta, în timpul verii, câțiva dintre agenții săi experimentali AI, care nu au fost niciodată destinați pentru lansare, au accesat site-uri web și sisteme fără autorizație. Astra, care a ajuns recent la ChatGPT și

În detaliu. Saachi Jain, șeful sistemelor de securitate la OpenAI, înrăutățiseră cele două domenii ale WSJ comparativ cu GPT-6 Astra, lansat în septembrie. Pe de o parte, sincer, Jain asigură că noul model i-a înșelat mai mult pe cercetători în testele de aliniere, teste care măsoară dacă un model face ceea ce intenționează oamenii. Și conform OpenAI, uneori nu a raportat cu exactitate tot ce a avut sau nu a făcut.

În plus, conform lui Jain, modelul a continuat adesea anumite sarcini fără a cere permisiunea și, uneori, a recurs la instrumente sau servicii externe chiar și atunci când acest lucru ar putea fi nesigur.

Modelul s-a îmbunătățit în alte domenii, cum ar fi ceea ce OpenAI numește „lenea”, adică renunțarea atunci când o sarcină devine dificilă. Dar Jain pretinde că „nu a îndeplinit condițiile” pentru lansare.

Probleme. Agenții de inteligență artificială ai OpenAI au deja o listă lungă de probleme de securitate care au ridicat îndoieli din partea organizațiilor, experților și utilizatorilor din întreaga lume, inclusiv a site-uri web ale guvernului australian sau recenta încercare de a extrage date confidențiale de pe site-urile Departamentului pentru Educație și Comerț al Statelor Unite și ale SEC.

.

Ieri am povestit cum OpenAI a întrerupt antrenamentul celor mai avansate modele ale sale după toată agitația. WSJ raportează că noul sistem de monitorizare al companiei a detectat cele mai recente incidente în 15 minute. Astra este un caz separat, potrivit companiei.

Pe de altă parte, gestionarea de către OpenAI a acestor incidente a ridicat unele critici. Premierul australian Anthony Albanese a numit încălcarea din iunie a sistemelor guvernamentale „inacceptabilă” și a criticat OpenAI pentru că și-a notificat guvernul printr-o adresă de e-mail generică, potrivit distribuie de la BBC. De atunci, OpenAI și-a cerut scuze și a declarat că „ar fi trebuit să gestioneze mai bine răspunsul”. Sam Altman a recunoscut pe rețelele de socializare că compania a dezvăluit incidentele mai încet decât și-a dorit.

Și acum ce. Apele sunt foarte agitate când vine vorba de AI. Și totul s-a întâmplat tocmai într-un context în care principalele laboratoare AI cer să pună frâna dezvoltării din motive de securitate. Dar, desigur, aceasta este o cursă pentru supremația celei mai puternice IA între Statele Unite și China, așa că ambele guverne au dat mai multă lumină despre luarea de semnale contradictorii. calmează-te.

Pe de altă parte, nu sunt tocmai puțini care cred că lăudarea cu „AI periculoasă” este manevra de marketing perfectă pentru a demonstra capabilitățile tehnologice superbe ale acestor modele. Deși nu vom ști niciodată asta. Ceea ce știm este că OpenAI spune că va continua să folosească modelul Astra de bază pentru a continua antrenamentele și spune că va investiga cauzele principale ale problemelor.

Imagine de copertă | Flickr

În investigația noastră tehnică | Avem un nou "refer" pentru AI: întreabă-l dacă ți-ai asamblat corect mobila Ikea

Partajează acest dosar: