O demonstrație despre limitele inteligenței artificiale a adus în atenție cazul unui tulcean pe care ChatGPT l-ar fi prezentat, în mod fals, drept colaborator al fostei Securități. Situația a fost relatată de scriitorul Nicolae C.
Ariton, în cadrul unei dezbateri organizate la Primăria Tulcea, înaintea deschiderii expoziției „DOSAR TULCEA: Tulcea înainte de 1989, reconstituită prin documentele din arhive”. La întâlnire au participat și reprezentanți ai Consiliului Național pentru Studierea Arhivelor Securității (CNSAS).
Potrivit lui Ariton, utilizatorii au întrebat chatbotul despre bărbat, iar acesta ar fi afirmat că persoana apare în dosarele CNSAS și ar fi fost colaborator al Securității. În perioada comunistă, însă, tulceanul era doar adolescent, relatează publicația.
Scriitorul a prezentat exemplul pentru a ridica întrebări despre felul în care funcționează sistemele de deep learning și despre posibilitatea ca acestea să inventeze informații, nu doar să acceseze baze de date. Cazul a avut un impact personal asupra bărbatului, descris în articol drept nevinovat, și a fost calificat drept o experiență traumatizantă.
Informațiile disponibile nu precizează numele acestuia, întrebarea exactă adresată chatbotului sau răspunsul integral generat de ChatGPT. De asemenea, articolul nu menționează o reacție din partea companiei care dezvoltă serviciul.
Dezbaterea a precedat deschiderea unei expoziții dedicate Tulcei de dinainte de 1989, realizată pe baza documentelor de arhivă. Exemplul prezentat arată riscul ca o afirmație generată de inteligența artificială să fie confundată cu o informație verificată, mai ales atunci când privește acuzații grave și persoane reale.
Datele despre trecutul cuiva trebuie confruntate cu surse documentare, iar un răspuns al unui chatbot nu reprezintă, prin el însuși, o dovadă.
