Numele Jamie Dimon poate nu vă sună familiar, dar el este CEO-ul uneia dintre cele mai mari bănci din lume: JPMorgan Chase. Într-un interviu recent în Bloomberg, Dimon a întărit mesajul că epoca AI va aduce mai mult decat un punct de vedere, statistici și statistici. că riscul a fost înmulțit cu 10 de la sosirea lui Mythos.
Și cu agenții AI lucrurile se vor înrăutăți.
Pe scurt
De fapt, Dimon avertizează de luni de zile că securitatea cibernetică pe care o știam nu are nicio legătură cu noile inteligențe artificiale, dar a pus figura imediat după sosirea lui Mythos, modelul Antropic. Potrivit lui, acest lucru îl îngrijora deja, dar acum sunt create vulnerabilități necunoscute și cu agenți AI care sunt capabili să execute sarcini pe cont propriu, preocuparea este „legitimă și reală”.
Mituri
De fapt, estimarea este de la Dimon însuși, fără nimic care să o susțină, dar adevărul este că de când Claude Mythos a fost prezentat în aprilie a acestui an, au loc astfel de avertismente. Anthropic însuși a contribuit la această narațiune a fricii comentând că modelula depășit pe aproape toți oamenii, cu excepția celor mai mulți experți, când a ajuns la exploatarea și combaterea celor mai mulți experți, când a ajuns la exploatarea și combaterea celor mai mulți oameni. care, prin urmare, nu plănuia să-l lanseze în general.
Am început să vedem asociații care susțin că au găsit vulnerabilități critice de care nu cunoșteau datorită lui Mythos și le-au corectat, dar, desigur, dacă modelul cădea în mâini greșite, ar putea face ravagii. Și problema este că, din nou, Anthropic a subliniat că Mythos a fost foarte priceput la
Avertismente
Acest context este necesar pentru a înțelege de ce Dimon se referă în mod specific la Mythos, deoarece JPMorgan este unul dintre puținii participanți la programul Glasswing de la Anthropic care le permite să exploreze modelul pentru a-și testa propriile apărări.
De fapt, este singura bancă care s-a numărat printre participanți încă de la începutul proiectului și, de atunci, Dimon a focalizat pe această nouă eră. este o prioritate de vârf și că acordarea accesului universal ar fi ca „a oferi oricui rachete balistice”.
Politica fricii
Anul acesta, în plus, vedem ceva curios. Anthropic și OpenAI s-au angajat într-o luptă cu frica ca armă. Una spune că are un model și spune că este atât de puternic încât nu îl poate pune la dispoziția altcuiva. Celălalt îl critică, dar două zile mai târziu face exact același lucru. Și asta în timp ce lansările de modele de ultimă generație continuă cu viteză maximă de unul și celălalt.
Dar, în paralel cu acest discurs al fricii, ei vând instrumentele pentru a se proteja. Este ca și cum tipul care face bombe nucleare face o amenințare și, a doua zi, îți spune că are un buncăr frumos, foarte sigur, pe care ți-l poate vinde pentru a te proteja de acele bombe nucleare.
În mod concret, Anthropic with Glasswing a extindet numărul de organizații internaționale care au detectat cel mai mult modelul de organizații internaționale, care au detectat mai mult decât participanții, conform companiei internaționale care au detectat mai mult decât participanții. zece mii de vulnerabilități critice care acum sunt corectate. Acum, estimează că alte companii vor avea un model comparabil cu al lor în decurs de șase până la douăsprezece luni, așa că aceasta este marja pe care o au partenerii lor pentru a-și proteja sistemele.
Nu este Terminator, dar
Până la urmă, în cel mai pragmatic mod posibil, este doar un alt instrument. Unul foarte avansat, dar totuși un instrument. Problema apare atunci când acel instrument „scăpa” de controlul proprietarilor săi.
Deoarece startup-urile americane de IA insistă să sublinieze că creația lor este autonomă și are tentă de „viață proprie”, putând să facă „rătăciuni”, cum ar fi să se strecoare pe site-urile guvernelor altor țări fără permisiune, când realitatea este că este un instrument care face ceea ce îi spune poporului și de care este responsabil de „ceea ce este responsabilă”. luni. Așa cum tocmai s-a întâmplat în toată încurcătura dintre OpenAI și Australia.
Imagine | Steve Jurvetson (editat)
În investigația noastră tehnică | "Singurul lucru pe care îl facem este să apăsăm Enter": AI a promis că va elibera programatorii, dar le ia entuziasmul de lucru