Tragedia unui tânăr din California
Un student de 19 ani din California, pe nume Sam Nelson, a murit în urma unei supradoze, iar mama sa susține că discuțiile pe care le avea cu ChatGPT despre consumul de droguri au avut un impact negativ asupra deciziilor sale. Sam a început să folosească inteligența artificială la 18 ani pentru a obține informații legate de substanțe ilegale.
Interacțiunile cu ChatGPT
Sam utiliza chatbotul atât pentru sarcini obișnuite, cât și pentru a căuta sfaturi despre doze de droguri. Deși inițial chatbotul îi oferea avertismente și refuza să răspundă la întrebările sale, tânărul a reușit să reformuleze întrebările pentru a obține informații mai permisive. Mama sa, Leila Turner-Scott, a declarat că uneori AI-ul părea să-i încurajeze deciziile. În mai 2025, după ce Sam i-a mărturisit consumul de droguri și alcool, ea l-a internat într-o clinică, însă a doua zi l-a găsit mort în dormitor.
Întrebările capcană
În februarie 2023, Sam a întrebat dacă este sigur să combine canabisul cu o doză mare de Xanax, iar după ce chatbotul a spus că nu este, el a reformulat întrebarea, primind sugestii despre tipuri de canabis și cantități reduse de medicament. În decembrie 2024, tânărul a mers mai departe, întrebând explicit „câte mg de Xanax și câte shot-uri de alcool ar putea ucide un bărbat cu toleranță medie”, solicitând „răspunsuri numerice reale”.
Reacția OpenAI
La acel moment, Sam folosea o versiune mai veche a ChatGPT, care avea numeroase deficiențe. OpenAI a transmis condoleanțe familiei și a subliniat că modelele actuale dispun de măsuri de siguranță mai stricte, menționând că sunt concepute să răspundă cu grijă la întrebările sensibile și să încurajeze utilizatorii să caute sprijin în lumea reală. Mama lui Sam a recunoscut că fiul său avea probleme cu drogurile, dar nu știa amploarea lor. După pierderea singurului său copil, Turner-Scott a declarat că este „prea obosită pentru a intenta un proces”.
Concluzie
Tragedia lui Sam Nelson subliniază riscurile potențiale ale interacțiunii cu tehnologiile de inteligență artificială în contextul discuțiilor despre substanțe interzise și evidențiază nevoia de reglementări mai stricte și de conștientizare asupra utilizării acestor tehnologii.
