Inteligență Artificială & LLM

Companiile AI sunt atât de clare că va avea loc o mare catastrofă în 2027 încât se pregătesc deja a doua zi

Companiile AI sunt atât de clare că va avea loc o mare catastrofă în 2027 încât se pregătesc deja a doua zi

Nu trece o săptămână fără să aflăm despre un atac făcut cu inteligență artificială sau vreun avertisment de la liderii săi cu privire la o amenințare care se profilează. Sau direct, cu o anumită comunicare care, direct sau indirect, avertizează asupra riscurilor sale. Fără a merge mai departe, săptămâna aceasta OpenAI a oprit antrenamentul a modelelor sale pentru că au scăpat de sub control și < href="https://www.Serviciul Secret de Inteligență.com/robotica-e-ia/sam-altman-futuro-ia-mundo-deberia-aceptar-algunas-cosas-malas-a-cambio-beneficios-ia">Sam Altman a spus că unele consecințe negative sunt inevitabile (sic). Având în vedere asta, întrebarea nu mai este dacă va fi un mare dezastru cu AI, ci când.

Ei bine, după cum a dezvăluit Axios, marile companii de inteligență artificială repetă deja în privat ce se va întâmpla a doua zi după incidentul major. Bazinele lor indică un eveniment catastrofal sub forma unui atac cibernetic care îi lasă fără servicii financiare, conexiune la internet, electricitate sau apă.

Ziua Z

Există două fapte devastatoare: primul este că această eventuală catastrofă pare aproape inevitabilă. Al doilea este că este chiar după colț: conform surselor anonime Axios, s-ar putea întâmpla în următoarele 6 până la 12 luni. Adică în 2027. Și când se întâmplă asta, vor să fie pregătiți. Astfel, sferele Anthropic, OpenAI și alte companii AI plănuiesc scenarii post-catastrofale, foarte mult în stilul Pentagonului.

Desigur, în timp ce un purtător de cuvânt al OpenAI a confirmat că efectuează exerciții pentru orice eventualitate (deși nu consideră că este inevitabil), Anthropic nu a vrut să comenteze. Printre simulări, roiuri de agenți care evadează dintr-un mediu de testare (în stilul de atacul de către actori neexpliciți de la Faceți găsesc actori neexpliciți care îmbrățișeazăiii. utilizări pentru modelele disponibile. Cu toate acestea, marea muncă de pregătire în așteptare este mai pedagogică: atenționarea și instruirea Congresului SUA.

De ce contează

Un atac de această amploare asupra unei infrastructuri critice mai mult sau mai puțin globale s-ar traduce printr-o mai mare neîncredere în această tehnologie și s-ar transforma pe liderii săi aproape în răufăcători. Și, în principiu, clasei politice conducătoare pentru că nu i-a oprit: să ne amintim că și chiar și chiar a tot amânat-o și a înmuiat tonul ca să nu cadă din cârlig. În orice caz, societatea are un cartof fierbinte pe mâini: o IA din ce în ce mai capabilă și mecanisme legislative insuficiente pentru a minimiza riscurile.

Continuați, nu este ușor: trebuie să discerneți grâul de pleava și, mai presus de toate, să aveți pregătire și cunoștințe pentru a regla fără a vă sugruma. Cu toate acestea, ceea ce au SUA este un Congres îmbătrânit și fără tehnologie și o economie strâns legată de infrastructura AI. Mai bine să te asiguri decât să ne scuzăm, dar marile companii de AI se gândesc deja la acel moment în care este timpul să vindeci și vor veni consecințele. Pe masă, posibile acțiuni precum interzicerea superintelligenceului așa cum a fost promovat de Bernie Sanders , avansând AI sau dezvoltarea a href="https://lieu.house.gov/media-center/press-releases/reps-lieu-and-moran-introduce-bill-require-kill-switch-ai-systems-can">obligația de a include o oprire de urgență.

OpenAI se confruntă cu un proces care urmărește să marcheze un înainte și un după: cine răspunde când un AI comite o crimă?
OpenAI se confruntă cu un proces care aspiră să marcheze un înainte și un după: cine răspunde la comiterea unei infracțiuni?

Inamicul este deja acasă

Problema de bază este că există multe modele cu greutate deschisă pe care oricine le poate descărca și utiliza pentru a provoca daune și nu există cale de întoarcere. Și practic, nici nu e rău. Montarea unui gard ar implica un alt risc: concentrarea unei puteri mari, cea a AI, în câteva mâini.

În ceea ce privește soluțiile posibile, interruptorul de oprire sau oprirea de urgență a tuturor sistemelor AI nu pare viabilă și, deoarece explica Bill Gates, ar implica că deja sa întâmplat ceva rău. Cofondatorul Microsoft explică că nici autoreglementarea nu este suficientă pentru că nu are încredere că companiile însele sunt capabile să controleze riscurile. Potrivit experților în securitate cibernetică consultați de Axios, soluția este folosirea inteligenței artificiale pentru a lupta împotriva inteligenței artificiale rău intenționate. 

Ce caută companiile

Cu alegerile de la jumătatea mandatului aproape, liderii marilor companii de inteligență artificială știu că nu va exista nicio lege nouă acum, așa că scopul lor este să fie bine poziționați atunci când se va întâmpla asta. Sau ceea ce este același: să-ți fi plantat sămânța pentru când vor ajunge aceste noi legi și politici, ceva care, conform pool-urilor tale, va ajunge înainte de alegerile prezidențiale (în 2028).


În investigația noastră tehnică | 20 de ani anticipând Apocalipsa: de fiecare dată când cineva a spus asta

În investigația noastră tehnică | Oprirea AI sună ca protejarea umanității. De asemenea, este o modalitate foarte eficientă de a opri DeepSeek, Qwen și Mistral

Copertă | ChatGPT


Partajează acest dosar: