Anthropic a prezentat în culise un proiect de lege privind siguranța celor mai de ultimă oră modele AI de pe Capitol Hill, conform Politico. Cu siguranță, nu se întâmplă des ca un laborator de inteligență artificială să încerce să scrie propriile standarde industriale. Dar ceea ce a ridicat mai mult de o sprânceană este că propunerea lui ar stabili un ștachet foarte înalt înainte ca guvernul să poată opri un model, concentrând această putere într-un singur departament.
Lucrări în curs. Congresul din Statele Unite cântărește în prezent mai multe propuneri de siguranță AI, iar Anthropic a elaborat două sau trei lucruri izbitoare. Un purtător de cuvânt al Anthropic a spus lui Politico că proiectul de lege reflectă cadrul avansat de inteligență artificială al companiei, pe care l-a promovat parlamentarilor din iunie, declarând că conținutul său ar trebui să fie „conținut de Congres”.
Pragul. Potrivit Politico, care a avut acces la proiect, guvernul ar putea bloca lansarea sau utilizarea unui model numai dacă prezintă un risc previzibil și iminent de daune de peste 1 miliard de dolari sau de a provoca moartea sau rănirea gravă a peste 50 de persoane. Pericolul ar trebui să vină și din:
Cum ar funcționa. Mass-media relatează că instituțiile independente, înregistrate la Departamentul de Comerț, ar evalua periodic un laborator AI și modelele sale de frontieră. Laboratoarele le-ar putea plăti, atâta timp cât plata nu depinde de rezultatul evaluării. Dacă un evaluator detectează un „risc iminent enumerat”, el sau ea trebuie să notifice Departamentul de Comerț în termen de 72 de ore de la finalizarea evaluării. După aceea, potrivit presei, Comerțul ar putea cere unui judecător federal al tribunalului districtual să oprească lansarea unui model. Tom's Hardware adaugă că Commerce ar trebui să-și prezinte dovezile în fața judecătorului menționat, care ia decizia finală.
O singură agenție are comutatorul
Politico afirmă că textul interzice în mod explicit orice altă „departamentare” sau desfășurare internă a oricărei alte „departamente” sau desfășurarea oficială de dezvoltare, de suspendare a utilizării interne sau de dezvoltare a unei agenții. model. Deci, dacă combinăm acest lucru cu pragul pe care l-am explicat mai înainte, Departamentul de Comerț ar face singurul organism executiv care să oprească un model și doar o instanță îl poate dispune.
Indiferent cine ar avea acel buton roșu, Politico spune că laboratoarele de inteligență artificială ar trebui să creeze cadre de securitate, să publice rapoarte de transparență pentru noile modele de frontieră, să îi protejeze pe cei care raportează probleme de securitate cu modelele și să raporteze Departamentul Comerțului incidente critice.
Un moment delicat. Preocupările cu privire la siguranța inteligenței artificiale s-au intensificat după ce hacking-ul Hugging Face de către sute de agenți OpenAI sau apariția mai multor agenți AI pe site-urile guvernamentale, printre alte momente complicate.
Politico adaugă că mai multe dintre incidentele apărute în această vară nu au avut ca rezultat pierderi fatale sau prejudicii economice, depășind atât de mult ponderea de un miliard de dolari din punct de vedere economic. incidente nu ar fi depășit acel prag.
Momentan este doar un proiect și Anthropic nu a aprobat încă în mod oficial niciun proiect de lege specific în Congres. Va trebui să așteptăm să aflăm dacă legiuitorii văd acel prag de 1 miliard de dolari și 50 de victime ca o măsură de securitate rezonabilă. Văzând că ideea a agitat foarte mult sectorul, apar îndoieli.
În investigația noastră tehnică | Zhang Yiming, proprietarul TikTok și-a dublat averea. Secretul lor: AI, desigur