Securitate Cibernetică & Hacking Etic

Riscurile de securitate cibernetică în era AI au crescut de 10 ori, potrivit JPMorgan

Riscurile de securitate cibernetică în era AI au crescut de 10 ori, potrivit JPMorgan

Numele Jamie Dimon poate nu vă sună familiar, dar el este CEO-ul uneia dintre cele mai mari bănci din lume: JPMorgan Chase. Într-un interviu recent în Bloomberg, Dimon a întărit mesajul că epoca AI va aduce mai mult decat un punct de vedere, statistici și statistici. că riscul a fost înmulțit cu 10 de la sosirea lui Mythos.

Și cu agenții AI lucrurile se vor înrăutăți.

Pe scurt

De fapt, Dimon avertizează de luni de zile că securitatea cibernetică pe care o știam nu are nicio legătură cu noile inteligențe artificiale, dar a pus figura imediat după sosirea lui Mythos, modelul Antropic. Potrivit lui, acest lucru îl îngrijora deja, dar acum sunt create vulnerabilități necunoscute și cu agenți AI care sunt capabili să execute sarcini pe cont propriu, preocuparea este „legitimă și reală”.

Există o nouă generație de modele AI la orizont și Anthropic trebuie să le vândă: „Cel mai mare și mai inteligent”
Există o nouă generație de modele AI la uși și Anthropic trebuie să le vândă: „Cele mai mari și mai inteligente”

Mituri

De fapt, estimarea este de la Dimon însuși, fără nimic care să o susțină, dar adevărul este că de când Claude Mythos a fost prezentat în aprilie a acestui an, au loc astfel de avertismente. Anthropic însuși a contribuit la această narațiune a fricii comentând că modelula depășit pe aproape toți oamenii, cu excepția celor mai mulți experți, când a ajuns la exploatarea și combaterea celor mai mulți experți, când a ajuns la exploatarea și combaterea celor mai mulți oameni. care, prin urmare, nu plănuia să-l lanseze în general.

Am început să vedem asociații care susțin că au găsit vulnerabilități critice de care nu cunoșteau datorită lui Mythos și le-au corectat, dar, desigur, dacă modelul cădea în mâini greșite, ar putea face ravagii. Și problema este că, din nou, Anthropic a subliniat că Mythos a fost foarte priceput la

Așa cum example, au făcut un exercițiu în care au reușit să exploateze o mașinărie care nu o antrena pe deplin pe Linux, în timp ce nu o antrena pe Linux special pentru asta, dar că a apărut din îmbunătățirile generale în programarea sistemelor și raționamentul modelului.

GPT-5.5 Cyber și Mythos sunt două fețe ale aceleiași monede și Sam Altman a vândut-o exact la fela

Avertismente

Acest context este necesar pentru a înțelege de ce Dimon se referă în mod specific la Mythos, deoarece JPMorgan este unul dintre puținii participanți la programul Glasswing de la Anthropic care le permite să exploreze modelul pentru a-și testa propriile apărări.

De fapt, este singura bancă care s-a numărat printre participanți încă de la începutul proiectului și, de atunci, Dimon a focalizat pe această nouă eră. este o prioritate de vârf și că acordarea accesului universal ar fi ca „a oferi oricui rachete balistice”. 

Politica fricii

Anul acesta, în plus, vedem ceva curios. Anthropic și OpenAI s-au angajat într-o luptă cu frica ca armă. Una spune că are un model și spune că este atât de puternic încât nu îl poate pune la dispoziția altcuiva. Celălalt îl critică, dar două zile mai târziu face exact același lucru. Și asta în timp ce lansările de modele de ultimă generație continuă cu viteză maximă de unul și celălalt.

Dar, în paralel cu acest discurs al fricii, ei vând instrumentele pentru a se proteja. Este ca și cum tipul care face bombe nucleare face o amenințare și, a doua zi, îți spune că are un buncăr frumos, foarte sigur, pe care ți-l poate vinde pentru a te proteja de acele bombe nucleare.

În mod concret, Anthropic with Glasswing a extindet numărul de organizații internaționale care au detectat cel mai mult modelul de organizații internaționale, care au detectat mai mult decât participanții, conform companiei internaționale care au detectat mai mult decât participanții. zece mii de vulnerabilități critice care acum sunt corectate. Acum, estimează că alte companii vor avea un model comparabil cu al lor în decurs de șase până la douăsprezece luni, așa că aceasta este marja pe care o au partenerii lor pentru a-și proteja sistemele.

Scott Bessent, Secretarul Trezoreriei SUA: „Siguranța AI este garantată prin tragerea la răspundere a creatorilor săi”
Scott Bessent, Secretarul Trezoreriei SUA: „Siguranța AI este garantată prin ținerea responsabilă a creatorilor săi”

Nu este Terminator, dar

Până la urmă, în cel mai pragmatic mod posibil, este doar un alt instrument. Unul foarte avansat, dar totuși un instrument. Problema apare atunci când acel instrument „scăpa” de controlul proprietarilor săi.

Deoarece startup-urile americane de IA insistă să sublinieze că creația lor este autonomă și are tentă de „viață proprie”, putând să facă „rătăciuni”, cum ar fi să se strecoare pe site-urile guvernelor altor țări fără permisiune, când realitatea este că este un instrument care face ceea ce îi spune poporului și de care este responsabil de „ceea ce este responsabilă”. luni. Așa cum tocmai s-a întâmplat în toată încurcătura dintre OpenAI și Australia.

Imagine | Steve Jurvetson (editat)

În investigația noastră tehnică | "Singurul lucru pe care îl facem este să apăsăm Enter": AI a promis că va elibera programatorii, dar le ia entuziasmul de lucru

Partajează acest dosar: