Inteligență Artificială & LLM

Facebook ia măsuri împotriva deepfake-urilor: le va șterge de pe rețeaua de socializare, deși va ignora parodia și satira

Facebook ia măsuri împotriva deepfake-urilor: le va șterge de pe rețeaua de socializare, deși va ignora parodia și satira

Deepfakes promit să fie una dintre marile provocări ale platformelor sociale în 2020. În ultimul an am asistat la nașterea, sau mai bine zis, la popularizarea acestei tehnologii care permite să manipuleze un clip video sau audio pentru a face, de exemplu, o persoană de relevanță globală precum Mark Zuckerberg apare „spunând lucruri” pe care nu le-au spus.

Este o provocare, deoarece deepfakes-urile sunt din ce în ce mai reale și diferenția lor de un videoclip real poate fi complicat. Confruntați cu această provocare, companii precum Facebook sau Adobe s-a apucat de treabă, iar acum compania lui Zuckerberg a confirmat modul în careta acționează în conținut: anumite condiții sunt îndeplinite condiții.

Dacă este deepfake, afară

Așa cum explă Monika Bickert, vicepreședintele Facebook pentru managementul politicilor globale, „manipulările pot fi făcute prin tehnologii simple precum Photoshop sau prin instrumente sofisticate care folosesc inteligența artificială sau tehnicile de „învățare profundă” pentru a crea videoclipuri, în general, deep learning sau „deep learning”. „deepfakes””. Potrivit lui Bickert, „deși aceste videoclipuri sunt încă rare pe internet, ele reprezintă o provocare semnificativă pentru industria și societatea noastră, pe măsură ce utilizarea lor crește”.

Cursa a început să creeze tehnologia capabilă să detecteze deepfake-urile, dar falsificatorii au avantajul
Cursa a început să creeze tehnologia capabilă să detecteze deepfakes, dar falsificatorii au avantajul

De la Facebook, ei afirmă că abordarea lor de combatere a deepfakes-urilor este formată din mai multe industrie, ca protagoniști și guvernamentali, de la mai mulți actori și protagoniști5 Experți globali cu experiență tehnică, politică, media, juridică, civică și academică pentru a ne informa dezvoltarea politicilor și a îmbunătăți știința detectării mass-media manipulate.” Și cum va acționa compania când va fi detectat un deepfake? Ștergerea acestuia atunci când îndeplinește aceste criterii:

  • „A fost editat sau sintetizat, dincolo de ajustările de claritate și claritate, într-un mod care nu este clar pentru omul obișnuit și care este probabil să vă păcălească, făcându-vă să credeți că subiectul videoclipului a spus cuvinte pe care el sau ea nu le-a spus de fapt.
  • Dacă este un produs al inteligenței artificiale sau al învățării automate, îmbinarea, înlocuirea sau suprapunerea conținutului pe un videoclip pentru a-l face să pară autentic.”

Cu alte cuvinte, dacă videoclipul sau audio a fost generat de inteligență artificială sau a fost editat într-un mod care ar putea induce în eroare o „persoană medie”, compania îl va elimina de pe platformă. Cu toate acestea, aceste măsuri nu se extind la conținutul parodiic sau satiric și nici la acele videoclipuri care au fost editate pentru a omite cuvinte sau pentru a le schimba ordinea (ceva care, trebuie spus, ar putea fi folosit pentru a crea conținut manipulat). Dacă conținutul încalcă regulile comunității, indiferent dacă este fals sau nu, acesta va fi eliminat de pe Facebook.

Acum, compania nu va scăpa complet de știrile false, un alt domeniu care nu a fost scutit de controverse. Facebook se ține de armele sale, afirmând că, dacă unul dintre cei 50 de parteneri de verificare a faptelor detectează o știre falsă sau parțial falsă, „își va reduce semnificativ distribuția în News Feed și o va respinge dacă este difuzată ca reclamă”. De asemenea, persoanele care urmează să-l distribuie sau care l-au distribuit vor primi avertismente care avertizează că conținutul este fals.

Recent, Facebook, împreună cu câțiva actori precum Microsoft și diverse universități, au lansat Deepfake Detection Challenge, o pentru a detecta mai bine tehnologia care este

a produceti de a folosi obiectivul pentru a produce. inteligența a fost folosită artificial pentru a modifica un videoclip pentru a înșela spectatorul Pentru a-l subvenționa, Facebook dedică 10 milioane de dolari.

Un exemplu mai radical ar fi China. De la 1 ianuarie, deepfake-urile sunt ilegale, iar distribuirea lor este o infracțiune penală care îi va duce pe utilizatori în închisoare. Companiile vor putea distribui acest conținut atâta timp cât este indicat „clar” atunci când respectivul conținut a fost creat folosind inteligența artificială. Pe o linie similară este California, care interzice difuzarea de videoclipuri manipulate pentru a discredita candidații politici în timpul alegerilor.

Mai multe informații | Facebook

Partajează acest dosar: