Inteligență Artificială & LLM

Nici Bill Gates nu are încredere în inteligența artificială: „Este suficient de puternic pentru a provoca evenimente care provoacă 1 miliard de morți”

Nici Bill Gates nu are încredere în inteligența artificială: „Este suficient de puternic pentru a provoca evenimente care provoacă 1 miliard de morți”

De-a lungul anilor am auzit de multe ori că inteligența artificială ar putea șterge, dar de câteva săptămâni, intensitatea umanității tweit viral de la un fost inginer Anthropic. Bill Gates este una dintre vocile care a avertizat despre riscuri în trecut și acum tocmai s-a alăturat conversației. 

Gates a vorbit

Într-un interviu publicat în NBC News, Bill Gates și-a exprimat părerea despre momentul actual al inteligenței artificiale, mai precis cu privire la îngrijorarea că sistemele ar putea să nu provoace o amploare mai mare. mecanismele și rolul pe care trebuie să-l aibă guvernele în fața acestei tehnologii. Acestea sunt idei care au fost deja prezente în eseul pe care l-a publicat la sfârșitul lunii august, unde a avertizat despre riscurile pe care le prezintă progresul AI și necesitatea de a se pregăti pentru consecințele acesteia.

Avem un nou "benchmark" pentru AI: întreabă-l dacă ți-ai asamblat corect mobila Ikea sau nu
Avem un nou „refer” pentru AI: întreabă-l dacă ți-ai asamblat corect mobila Ikea sau nu>

Un miliard de morți

În ultimele săptămâni, cuvântul extincție a revenit în centrul discursului despre pericolele inteligenței artificiale, cu cifre foarte specifice precum ideea că există o șansă de 10% ca IA să distrugă umanitatea în următorul deceniu.

Gates nu oferă un procent, dar avertizează că „AI este, fără îndoială, suficient de puternică pentru a provoca evenimente care provoacă 1 miliard de morți”. Cu toate acestea, preocuparea lui nu este atât faptul că AI acționează în mod autonom, ci că cade pe mâini greșite: „Nu a existat niciodată o armă atât de puternică precum combinația de oameni cu intenții rele care folosesc cele mai avansate instrumente AI.”

Comutatorul de ucidere. Ideea că inteligența artificială are un buton de oprire pe care îl putem apăsa dacă începe să se comporte periculos a existat de mulți ani, dar nu a existat de mulți ani, dar nu a existat de mulți ani o stingere. Posibilitatea de a opri sistemul poate fi o măsură de urgență, dar înseamnă că ceva rău s-a întâmplat deja. Gates se concentrează pe monitorizarea și deținerea de mecanisme de control înainte de a ajunge la acel punct.

Autoreglementarea nu este suficientă

Una dintre dezbaterile care au apărut se învârte în jurul reglementării AI. Dario Amodei, CEO al Anthropic a propus în scrisoarea sa că cea mai eficientă modalitate de a o reduce este reglementarea care afectează în egală măsură toate companiile AI, o strategie care a fost văzută ca o încercare de captare reglementară care ar ajunge să-i avantajeze.

Întrebat în mod direct dacă guvernul SUA ar trebui să legifereze în această chestiune, răspunsul lui Gates a fost clar: „Absolut”, adăugând că „nimeni nu crede că autoreglementarea este suficientă”. Cu alte cuvinte, nu au încredere că companiile însele sunt capabile să controleze riscurile.

Imagine | Serviciul Secret de Inteligență cu Magnific

În investigația noastră tehnică | Bill Gates: "Cred că ar trebui să taxăm AI, dacă plătești pe cineva pe rol acum

Partajează acest dosar: