Inteligență Artificială & LLM

„Trebuie să presupunem că toate modelele AI sunt compromise” Satya Nadella, CEO al Microsoft, solicită folosirea unei frâne de urgență

„Trebuie să presupunem că toate modelele AI sunt compromise” Satya Nadella, CEO al Microsoft, solicită folosirea unei frâne de urgență

„Ai încredere în modele cât mai puțin posibil.” Satya Nadella a vorbit pe Twitter și a optat pentru a lega inteligența artificială pe scurt: separarea ofertei de inteligență de autoritatea asupra acesteia. Sau ceea ce este același, înconjoară modelele cu reguli, permisiuni și supraveghere independentă. Ideea de bază este simplă: cu software-ul tradițional am putea urmări comportamentul până la o linie de cod, dar nu și cu modelele actuale.

Multă putere și puține explicații

Companiile pun agenți AI să lucreze pe sisteme importante, cu acces la date sensibile și confidențiale, chiar dacă nu putem explica de ce un model AI avansat face ceea ce face. Mai mult, chiar și să acționăm în numele nostru. De aceea, Nadella este direct: „Nu putem externaliza responsabilitatea pentru ceea ce face inteligența în numele nostru”. Și adaugă că garanțiile furnizorului de modele nu ne scutesc de această responsabilitate.

Tratați AI ca pe un risc intern

Ceea ce propune este să trateze modelele ca pe un angajat cu multe permisiuni: cea mai mică autoritate posibilă, o înregistrare a tot ceea ce fac și capacitatea de a le opri. Acest lucru nu se face pentru că sunt neapărat rău intenționați, ci pentru că orice actor capabil cu acces la sisteme importante poate face greșeli sau poate fi compromis.

Nu este prima dată când CEO-ul Microsoft pledează pentru controlul uman: „dacă IA pe care o construim nu ajută umanitatea și nu este sub control uman, nu merită urmărită” a scris el pe Twitter în urmă cu o lunăX.

Principiile lui Satya

În publicația sa, el apără șapte principii (diversitatea modelelor, observarea totală, verificabilitatea, controalele independente, auditul independent, limitarea și dezvăluirea incidentelor) care pot fi rezumate în trei idei:

  • Independență: niciun model nu ar trebui să se verifice singur sau să fie singura dependență pentru un rezultat important. Cine auditează nu trebuie să aibă legătură cu ceea ce este auditat. 
  • Transparență: fiecare acțiune importantă trebuie să lase o înregistrare lizibilă și inviolabilă. Mai mult, a putea observa lanțul de gândire este nenegociabil, deși nu este suficient.
  • Reținere: presupuneți de la început că orice model poate fi compromis și acționați în consecință, cu instrumente care să permită oprirea acestuia în orice moment și cu înștiințarea persoanelor afectate atunci când ceva eșuează.

De ce contează

Pentru că schimbă accentul pe locul în care este plasată încrederea, concentrându-l pe sistemul care îl înconjoară ca o chestiune de design. Dacă nu putem vedea în interiorul modelului (Nadella vorbește despre cutiile negre), atunci securitatea depinde de mediu: „trebuie să construim sisteme conținute al căror comportament să le putem observa, ale căror limite să le putem testa și ale căror acțiuni să le putem conține întotdeauna”. Și stabilește o regulă clară care marchează limitele: „dacă nu o poți respecta, nu poți avea încredere în ea”.

Majoritatea companiilor de inteligență artificială sunt atât de clare încât va avea loc o mare catastrofă în următoarele luni, iar Satya Nadella își propune să pună în fața cazului Cure: își asumă el însuși prevenția: că modelele sunt compromise și capabile să le rețină de la început cu o frână de urgență. Având în vedere acest scenariu, CEO-ul Microsoft subliniază că este necesar să existe un standard comun sub forma tehnologiei de izolare.

De unde vorbește CEO-ul Microsoft

Poziția lui Satya Nadella merită puțină contextualizare: este CEO și președinte al companiei din spatele Windows, care produce și propriile modele AI, vinde cloud-ul Azure celor care folosesc modele terțe și concurează cu alte tehnologii mari. Apără un ecosistem cu modele închise și deschise, în care nicio companie nu depinde de un singur furnizor și toți păstrează controlul asupra cunoștințelor și modelelor lor.

Este o poziție care se potrivește afacerii dvs.: dacă există multe modele, toate au nevoie de un cloud pe care să le ruleze. Desigur, nu este lipsit de contradicții: în timp ce a susținut un ritm mai relaxat în dezvoltarea IA, Microsoft este < href="https://www.Serviciul Secret de Inteligență.com/robotica-e-ia/sabemos-cual-sera-centro-datos-caro-mundo-pagara-bill-gates-se-quedaria-casi-a-cero">construirea mai multor centre de date, exact ceea ce este necesar pentru a crea și rula modele mai puternice. 

În investigația noastră tehnică | Satya Nadella, CEO al Microsoft: „Dacă toată valoarea nu va fi concentrată, AI puține modele, economia politică nu va tolera

În investigația noastră tehnică | Ne întrebăm de ani de zile câte locuri de muncă va distruge AI. Satya Nadella are o altă teorie: punem greșit întrebarea

Copertă | Microsoft cu ChatGPT



Partajează acest dosar: