Un scandal tehnologic greu de digerat: ChatGPT acuzat de defăimare
ChatGPT, inteligența artificială care a aprins imaginația multora, s-a transformat într-un coșmar juridic pentru OpenAI, compania sa creatoare. Acuzații grave vin asupra sa după ce chatbot-ul a „halucinat” și a oferit răspunsuri fabricate, incluzând o poveste complet falsă despre un utilizator descris ca un criminal de copii. Incidentul a stârnit valuri uriașe și a generat o plângere formală din partea grupului de confidențialitate a datelor Noyb.
Halucinații tehnologice periculoase – când software-ul confecționează adevăruri
Cazul șocant a ieșit la lumină în august 2024, când un utilizator, Arve Hjalmar Holmen, a interogat ChatGPT cu privire la propriile sale detalii. Răspunsul? O poveste grotescă despre cum acesta ar fi ucis doi dintre copiii săi și a încercat să-l omoare pe al treilea. Într-o ironie amară, AI-ul a amestecat informații reale, cum ar fi numărul copiilor săi și orașul natal, cu invenții terifiante. Cum rămâne cu dreptul omului la adevăr și la reputație?
Reacția OpenAI: un pas prea târziu?
OpenAI susține că a îmbunătățit capacitatea ChatGPT prin adăugarea accesului la internet pentru a căuta informații despre persoane în timp real. Dar asta nu înseamnă că urmele eronate ale trecutului vor dispărea ca prin magie. Datele învechite și false rămân inscripționate adânc în modelul AI, iar acest lucru ridică întrebări fundamentale despre responsabilitatea corporațiilor tehnologice față de utilizatori.
Noyb și GDPR: lupta pentru adevăr
Plângerea formală a fost depusă la autoritatea de protecție a datelor din Norvegia. Grupul a acuzat OpenAI de încălcarea Regulamentului General privind Protecția Datelor (GDPR), care impune ca informațiile personale să fie exacte. Adăugarea unei banale exonerări de răspundere în interfața utilizatorului – cum că informația poate fi eronată – nu este considerată suficientă de către avocații Noyb. „Nu poți arunca vina pe utilizator, din moment ce tehnologia încalcă deja drepturile lui,” a subliniat Joakim Söderberg, avocat Noyb.
Învățăm ceva din erorile repetate?
Nu e prima dată când OpenAI este acuzată că folosește date eronate sau fabricate. Un alt utilizator și-a văzut ziua de naștere imaginată de ChatGPT în dosarele unei plângeri anterioare. Mai mult, rapoartele arată că alte persoane au fost victimele acuzațiilor fabricate, de la agresiuni sexuale la luare de mită.
Un viitor întunecat pentru încrederea în AI?
Acest incident lovește într-un moment în care autoritățile europene consolidau inițiativele de protecție a datelor împotriva platformelor AI. Grupuri de lucru speciale s-au format în 2023, iar acum o sarcină mai largă își propune să stabilească reguli mai stricte. Însă cazuri ca acestea scot la lumină întrebări greu de evitat: este oare AI-ul un aliat de încredere sau un pericol constant pentru drepturile individului?
Sursa: www.politico.eu/article/openai-chatgpt-complaint-filed-over-hallucinated-child-murderer/