EY a retras un studiu despre programele de recompense și loialitate, care conținea halucinații generate de AI și note de subsol false, într-un exemplu clar despre vulnerabilitățile noilor tehnologii.
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, era folosit de consultanți din Canada pentru promovarea serviciilor de securitate cibernetică, însă a fost eliminat după ce cercetători online au descoperit probleme grave.
Citește și: Trenurile „Dacia” și „Transilvania” spre Viena își modifică orarul între 27-29 octombrie 2026
Potrivit grupului de cercetare GPTZero, raportul conținea date inventate, citări atribuite greșit și făcea referire la un raport McKinsey care nu exista, ceea ce ridică semne de întrebare asupra credibilității informațiilor.
Riscurile halucinațiilor AI în sectorul serviciilor profesionale
Raportul EY estima piața programelor de loialitate la 200 de miliarde de dolari, iar valoarea punctelor nefolosite era indicată la aceeași sumă, ceea ce pare improbabil. În plus, peste șase note de subsol trimiteau către pagini web inexistente sau fără informații relevante.
- Raportul conținea citări false și date inventate
- Mai mult de șase note de subsol trimiteau către pagini inexistente
- Piața programelor de loialitate era estimată la 200 de miliarde de dolari
- Valoarea punctelor de loialitate nefolosite era indicată la aceeași sumă
- Grupul GPTZero a semnalat problemele joi seară
Impactul halucinațiilor AI asupra încrederii în sectorul consultanței
Această situație evidențiază riscurile majore ale utilizării AI în sectorul serviciilor profesionale, unde informațiile false pot influența decizii importante. Rivalul EY, Deloitte, a fost nevoit să revizuiască un raport similar pentru un guvern canadian, după ce au fost descoperite citări false.
De asemenea, firma de avocatură Sullivan & Cromwell și-a cerut scuze recent pentru citări incorecte în documente juridice, ilustrând problemele generate de AI în domenii critice.
Cu toate acestea, companiile continuă să investească masiv în tehnologie și să promoveze utilizarea AI, chiar dacă riscurile de halucinații și informații false sunt evidente.
EY susținea în octombrie că veniturile din AI au crescut cu 30% în ultimul an, iar 15.000 de angajați lucrau la proiecte de transformare digitală și guvernanță responsabilă a AI-ului.
Compania a declarat că studiul retractat nu era legat de activitatea pentru vreun client și analizează circumstanțele publicării raportului, subliniind nevoia de responsabilitate în adoptarea tehnologiei.
Astfel, această situație scoate în evidență necesitatea unei verificări riguroase a conținutului generat de AI, mai ales în domenii sensibile, pentru a evita dezinformarea și pierderea încrederii în sectorul consultanței.