Controversele legate de inteligența artificială cresc pe zi ce trece. Tot mai mulți utilizatori au ajuns să dezvolte episoade psihotice sau să fie influențați în mod periculos de platformele de ultimă generație, unele cazuri ducând chiar la tragedii. În același timp, aplicațiile de tip chatbot apar tot mai des în procese de creație și chiar în luarea deciziilor. Sunt politicieni care folosesc astfel de platforme pentru a se sfătui, iar unele instituții au ajuns să folosească conversațiile cu ChatGPT ca probă în instanță. O analiză Realitatea Plus.
Specialiștii avertizează că motoarele de căutare bazate pe AI nu oferă întotdeauna informații corecte și pot distorsiona realitatea doar pentru a fi pe placul utilizatorilor. Mai mult, profilurile psihologice generate din istoricul conversațiilor pot deveni instrumente puternice pentru influențarea comportamentului oamenilor — un risc major într-o lume în care inteligența artificială este tot mai prezentă în viața de zi cu zi.
Titraj: Sistemele lor urmăresc unilateral aprobarea umană în detrimentul oricărui alt lucru. Într-un studiu recent pe mai mulți chatboți, comportamentul lingușitor a fost observat în 58% din cazuri. John Oliber, jurnalist britanic.
Titraj: Rudele unei femei de 83 de ani din Connecticut dau în judecată compania OpenAI și Microsoft, pentru ucidere din culpă. Susțin că chatbotul bazat pe inteligență artificială a amplificat delirurile paranoice ale fiului acesteia și a contribuit la îndreptarea lor împotriva mamei sale, înainte de a o omorî.
Creatorii OpenAI spun că doar 0,07% dintre utilizatori au arătat semne de psihoză sau manie în prima săptămână de utilizare.
Exemple din mediul online românesc
AI folosit în dosare penale și instituții publice
Au existat situații în care persoane implicate în dosare de corupție sau instituții au folosit ChatGPT pentru a redacta apărări. Într-un dosar CFR, suspecții au cerut ajutorul chatbotului pentru a scăpa de acuzații. La Timiș, poliția a folosit o conversație cu ChatGPT ca probă în instanță.
Inclusiv instituții publice au început să folosească AI pentru verificarea documentelor, deși specialiștii avertizează că tehnologia nereglementată poate crea riscuri majore.
Cosmin Soare-Filatov, consilier prezidențial pe probleme constituționale
„Inteligența artificială începe să fie utilizată în activități care, până de curând, erau considerate exclusiv umane. Nu vorbim despre scenarii îndepărtate, ci despre instrumente care există deja și care pot influența decisiv modul în care acționează sistemul judiciar.”
Cercetătorii avertizează că inteligența artificială poate prezice personalitatea utilizatorilor din istoricul conversațiilor, iar astfel de date ar putea fi folosite în viitor pentru manipulare, dezinformare sau propagandă politică.
