Securitate Cibernetică & Hacking Etic

Brad Smith, președintele Microsoft: „În acest moment, mașina ta de spălat este supusă mai multor reglementări de siguranță decât AI”

Brad Smith, președintele Microsoft: „În acest moment, mașina ta de spălat este supusă mai multor reglementări de siguranță decât AI”

Brad Smith, președintele Microsoft, a dat recent dovezi despre starea peisajului AI în ceea ce privește reglementarea. Lucrul nu este deloc de spus, iar Smith însuși susține că chiar și o cutie de lapte are mai multe protocoale de securitate decât cele mai mari și mai puternice sisteme AI din lume (ceea ce, pe de altă parte, nu este un punct atât de controversat, având în vedere că este ceva pe care îl ingerăm în viața noastră de zi cu zi). Smith solicită standarde globale tocmai într-un moment în care Casa Albă preferă ca industria să se reglementeze..

Coliziune frontală. Smith reprezintă una dintre cele mai importante poziții la una dintre companiile cel mai profund implicate în IA. Microsoft operează infrastructura AI, precum și este acționar la OpenAI. Așadar, petiția sa plasează compania în contradicție cu poziția președintelui Donald Trump, care a declarat că sectorul ar trebui să se reglementeze singur, astfel încât companiile americane să nu piardă teren în cursa AI împotriva Chinei.

Ce spune el. În declarații la podcastul Big Boss Interview de la BBC, Smith a spus că „în acest moment, mașina ta de spălat este supusă mai multor standarde de siguranță decât fiecare cutie de carton”, adăugând că laptele este supus inspecției într-un supermarket. El a descris AI ca fiind atât un „instrument, cât și o armă” și a spus că tehnologia avansează „mai repede decât viteza securității”.

Meta prezintă Muse Wonder și Muse Wonder Full, cele mai de ultimă oră modele AI ale sale pentru a se plasa la granița tehnologiei
Meta prezintă Muse Wonder și Muse Wonder Full, modelele sale cele mai de ultimă oră, puse în fața tehnologiei sale

Ce doriți. Smith a stabilit trei măsuri:

  • O frână de urgență. Ar permite companiilor să întrerupă sau să încetinească un sistem AI care scapă de sub control. Smith a spus în timpul interviului că ar trebui să se aplice sistemelor care controlează dispozitivele autonome sau infrastructura critică și să revină companiilor care administrează modelele și infrastructura cloud din spatele lor. Este o măsură la care Satya Nadella, însuși CEO-ul Microsoft, a făcut referire recent.
  • Raportarea obligatorie a incidentelor. Dacă un agent AI Dacă o persoană necontrolată sau necinstită se strecoară într-un sistem, „victima” trebuie notificată, în același mod în care organizațiile sunt deja obligate să-și notifice o încălcare a securității
  • href="">Aprobare independentă înainte de lansare. Smith

    De ce Marea Britanie. Smith a susținut că Marea Britanie este cel mai bine plasată pentru a conduce standardele globale datorită AI Safety Institute (AISI), creat sub fostul prim-ministru Rishi Sunak.

    Potrivit Politico, cei de la Casa Albă au cerut Open AI luna trecută și presupusa AI să nu-și pună la dispoziție testatorii britanici. modele noi. Luni, AISI a confirmat că încă poate accesa și testa cele mai recente modele, potrivit unui cont TechCrunch.

    Calea voluntară. La sfârșitul lunii trecute, Trump i-a adunat la Casa Albă pe liderii OpenAI, Anthropic, Meta, Google și Nvidia. La această întâlnire, multe dintre companii au semnat un document „obligatoriu din punct de vedere moral”, potrivit lui Trump însuși, în care companiile au convenit să colaboreze cu auditori independenți pentru a verifica dacă sistemele lor funcționează fără comportament neregulat. Microsoft nu a semnat în acel moment.

    Smith a spus că aplaudă declarația și că Microsoft este „încântat să o semneze”. Dar el a descris-o drept „un pas bun, este un pas necesar. Dar nu mai cred că este suficient”. Slăbiciunea autoreglementării, susține el, constă în faptul că „companiile bune vor face ceea ce li se cere”, în timp ce „cele pentru care trebuie să vă faceți griji sunt companiile care nu sunt la fel de responsabile”.

    Imagine de copertă | Microsoft

    În investigația noastră tehnică | Riscul AI nu va arăta ca Terminator. Va fi similar cu ceea ce tocmai s-a întâmplat în 500 de supermarketuri franceze

Partajează acest dosar: