Securitate Cibernetică & Hacking Etic

Aceasta este noua înșelătorie cu numere de telefon false care are deja victime: rezultatele AI ale Google sunt „vinovate”

Aceasta este noua înșelătorie cu numere de telefon false care are deja victime: rezultatele AI ale Google sunt „vinovate”

Chiar și cei mai pricepuți din punct de vedere tehnologic pot cădea în înșelăciune online. Unul dintre ei este Alex Rivlin, un agent imobiliar din Las Vegas care a devenit, fără să știe, victima unei noi escrocherii sofisticate. Cazul său, dezvăluit de The Washington Post, stârnește semnale de alarmă cu privire la modul în care noile instrumente de inteligență artificială generativă, cum ar fi dat direct de către motorul de căutare cu un număr de telefon AI,,. Ceea ce nu știam este că acel număr nu era de la compania de transport maritim, ci de la niște escroci.

O înșelăciune perfect orchestrată

Când a sunat la numărul pe care i-a oferit AI, un presupus lucrător al serviciului pentru clienți i-a răspuns și i-a oferit detalii precise despre transportul pe care trebuia să îl folosească în Veneția. L-a informat despre tarife și chiar a negociat posibilitatea de a nu-i percepe unele suplimente care se aflau în portofoliul de servicii al companiei.

În cele din urmă, au ajuns la un acord: l-ar costa 768 USD. Și pentru a o plăti și-a furnizat cardul de credit.

Căutare Google

Înșelătoria a fost descoperită a doua zi

Victima a detectat că în contul său au apărut acuzații suspecte, iar numele companiei care îl acuza nu era „Royal Caribbean”, iar Rivlin și-a dat seama de înșelăciune. Din fericire, a reușit să-și anuleze cardul de credit și banca a returnat banii, deși a fost surprins de cât de bine făcută a fost înșelătoria.

Trucuri vechi, muniție nouă puternică: AI

Incidentul Rivlin nu este un caz izolat, ci vârful aisbergului unei probleme în creștere. Tehnica publicării numerelor de telefon false ale serviciului pentru clienți nu este nouă, dar apariția IA generativă a catapultat-o la un nou nivel de eficacitate.

Până acum aceste escrocherii au profitat de plătirea pentru a apărea în primele rezultate ale căutării, dar acum AI este cea mai bună armă. Această tehnologie colectează informațiile care pot fi găsite pe Internet, dar nu verifică dacă sunt autentice. În acest fel, dacă un număr de telefon este repetat pe mai multe site-uri web și forumuri, AI-ul îl poate interpreta ca pe o sursă credibilă și îl poate oferi direct utilizatorului care solicită ajutor.

 200 de persoane au plătit pentru a merge să vadă un spectacol de drone în Valencia. Problema este că evenimentul nu a existat
200 de persoane au plătit pentru a merge la un spectacol de drone în Valencia. Problema este că evenimentul nu a existat

De fapt, o investigație a The Washington Post a constatat că același telefon era legat de mari linii de croazieră precum Disney.

Răspunsul companiilor de tehnologie și criticile experților

Google a declarat pentru The Washington Post că rezumatele sale AI și rezultatele căutării sunt, în general, eficiente în direcționarea utilizatorilor către informații oficiale și că anumite exemple frauduloase au fost eliminate. Cu toate acestea, criticii susțin că nu este suficient.

Lily Ray, vicepreședinte al strategiei SEO la firma de marketing digital Amsive, observă că permiterea rezumatelor AI să furnizeze numere de telefon „deschide o nouă oportunitate pentru escroci și una de care, în mod evident, profită deja”. Experții în securitate subliniază că Google deține deja baze de date cu informații comerciale verificate pe care le-ar putea acorda prioritate, în loc să se bazeze pe conținut web mai larg și mai manipulabil.

A avea încredere oarbă în AI nu este o idee bună

Această poveste ne permite să vedem clar cum vor găsi hackerii modul de a ne obține datele cu orice preț. În acest caz, au profitat de încrederea pe care o putem avea în rezultatele AI-ului Google pentru că este primul lucru pe care îl vedem. Același lucru s-a întâmplat cu rezultatele căutării SEM care se aflau pe primele poziții și care au răspuns la filozofia noastră conform căreia primul link este întotdeauna cel mai bun.

De aceea recomandarea este foarte clară: trebuie să verificăm întotdeauna informațiile pe care le căutăm, cum ar fi un număr de telefon, în sursa oficială precum site-ul companiei sau în propria aplicație.

Există mai multe escrocherii legate de AI

Acest exemplu nu este izolat, deoarece am văzut studii care sugerează că atunci când solicităm unui AI adresa URL a unei companii, a>itego-phishing. Ceva care dă naștere la phishing. Dar ele nu se opresc aici, deoarece înșelătoriile pot ajunge la listele de redare Spotify sau într-un PDF simplu.

Imagini | Firmbee.com Teme NordWood

În investigația noastră tehnică | Operatorii de call center se confruntă cu o problemă curioasă: mulți clienți cred că sunt un AI

Partajează acest dosar: