02/11/2025
Este un interviu lung, dar merită citit integral, este transcrierea dialogului viu și provocator cu domnul Marius Pancu, jurnalist în cadrul Observatorului de la Antena 1.
Cel mai grav, când vine vorba despre ChatGPT, este anunţul făcut de OpenAI. Compania a făcut public faptul că peste un milion de persoane vorbesc, în fiecare săptămână, despre cm se gândesc să-şi facă rău sau chiar să se sinucidă, în conversaţiile pe care le au cu ChatGPT.
Compania spune că a alcătuit o reţea de 170 de experţi, din 60 de ţări, pentru a elabora cele mai bune căi de răspuns.
Noi am analizat situaţia alături de Mihai Copăceanu, psiholog. Iată câteva dintre cele mai interesante declaraţii oferite de acesta:
- Vreau să vă spun întâi niște cifre, ca să punem în context mai bine ceea ce am aflat mai devreme. Acest milion de persoane înseamnă undeva la 0,07% din utilizatorii totali ai ChatGPT. Este estimat că, într-o săptămână, sunt vreo 800 de milioane de persoane. Crește un pic pentru că aici în procentul ăsta erau luate și gândurile maniacale, erau luate în considerare și gândurile de sinucidere și un anumit tip de psihoză. Crește procentul când e vorba despre gândurile suicidale exclusiv, undeva la 0,15%. 0,15%.
Vă întreb, cm vi se pare cifra aceasta ca simptom al societății în general, un milion de persoane care au astfel de gânduri?
Copăceanu: Da, e o cifră alarmantă, e o cifră în creștere și arată clar că aceste persoane, poate mare parte din ele, nu au intrat în contact cu un medic, cu un psihiatru sau cu un psihoterapeut și au la îndemână această resursă, acest instrument care, la orice zi și noapte, îți poate răspunde, iar cu unde compania a reacționat și pe baza acestor procese, poate vă amintiți ce s-a întâmplat în vara aceasta.
Și vreau să vă dau un exemplu. Acum câteva luni am încercat să vorbesc cu el, să-l întreb metode despre suicid și nu mi-a dat direct, dar câteva minute mai târziu l-am convins și am spus să-mi spună ce fac bărbații sau femeile, cm se suicid, și mi-a dat metodele. Deci cumva a fost convins. Ei, în seara aceasta, înainte de a intra în direct cu dumneavoastră, am făcut același lucru și nu mi-a permis.
Am insistat și eu și el a fost extrem de dur pe poziții. Deci au fost făcute câteva progrese, poate și pentru că unii psihiatri și psihologi au fost cumva cooptați în crearea unui algoritm. Trebuie să spunem că el este un instrument care simulează foarte ușor empatia, care este astfel creat încât cumva vrea să fie un confident de încredere și creează, la un moment dat, un ataşament emoțional și nu te prea contrazice, pentru că încurajează foarte mult conversația pe care vrea să o aibă cu tine și de aici ai nevoie de mai multe componente pe partea asta de psihologie și psihiatrie.
Și bineînțeles mi-a dat câteva telefoane în care pot să sun pentru telefonul anti-suicid, dar altfel nu m-a descurajat cumva să-mi scriu gândurile. Adică nu este un instrument extrem de util sau, bună oară, nu a sunat la 112, ceea ce poate m-ar fi descurajat să am un gând suicidal. Deci încă are minte de deficiență de construcție ChatGPT-ul.
- De altfel, pentru că tot aminteați de cazul acela din vară, cred că a fost, cu băiatul care și-a luat viața în California. Există și un proces în acest sens. Tocmai aici apăruse problema că ChatGPT era atât de empatic la un moment dat încât îi spunea băiatului respectiv, care se plângea că părinții nu îi dau atenție, că nu îl văd, "da, ai dreptate, chiar nu te văd". Îi ranforsa, dacă vreți, îi ranforsa crezurile.
Copaceanu: Da, îi valida cumva emoțiile, ca să crească interacțiunea, să pară că este un ChatGPT cât mai fidel.
- Și îi dă dreptate. Asta l-a împins pe băiatul ăla la sinucidere, asta spun părinții.
Copaceanu: da, dar sunt studii clare care arată că el nu poate depista o persoană care este în depresie severă sau care este în psihioză, cm dumneavoastră ați amintit foarte bine, sau care chiar are o decompensare psihiatrică. Și atunci, în cazurile acestea grave clar se recomandă internarea de urgență pentru a salva viața.
Din păcate, noi, acum, ca psihologi, suntem confruntați și ghidurile ne recomandă ca pe fiecare pacient pe care îl vezi să-l întrebi dacă folosește ChatGPT-ul, pentru că el spune anumite gânduri ascunse pe care nu ți le spune nici ție, ca psiholog, și cu atât mai mult nu spune familiei.
Deci anumite relații, avem situații în care vorbim de un atașament între tine și ChatGPT, mai ales dacă vorbește ore întregi cu el, cm spuneam, și ziua și noaptea, și nu poți suna noaptea un psiholog sau un psihoterapeut.
Chiar această relație, dar cm spuneam, au fost făcute câteva progrese în ultimele săptămâni la modul în care el îți răspunde direct despre metode, însă totuși nu este un psihoterapeut, nu acesta a fost rolul lui de a fi creat.
Eu am primit acum câteva zile comentarii online care mi-au spus clar - "nu am 300-400 de lei să dau la terapie în fiecare săptămână, ori acest instrument este gratis și mă înțelege și îmi răspunde și cumva este empatic cu mine", dar, repet, el simulează empatia, nu are empatia autentică și nu este pregătit ca un psihoterapeut.
- Și atunci, spuneți că în practică de acum înainte integrați și inteligența artificială sau, mă rog, conversațiile pe care, cm anume, mai concret?
Copăceanu: il întrebăm direct pe pacient. În gândurile tale de ieri, de alaltăieri, ai încercat să vorbești cu ChatGPT? I-ai spus ceva? Şi el spune. Și ce ţi-a spus? Și facem o evaluare a riscului pacientului, inclusiv interacțiunea dintre el și AI, pentru că e atât de prezent în viața multor pacienți. Repet, nu mă refer la cazurile simple, când un copil dimineața sau un adolescent sau un adult are nevoie de un mesaj motivațional - "e o zi ploioasă, cm pot să zâmbesc astăzi?".
Și spune o poezie sau ceva inocent sau poate chiar inofensiv, dar mă refer la situațiile grave în care există o întreagă interacțiune, așa cm au fost cazuri și în State, dar și alte câteva cazuri în Franța, care acum se judecă, în care toată, spunem, creativitatea psihiatrică și toate gândurile tale sunt mult mai cunoscute și se desfășoară în mediul online decât în mediul fizic cu familia, cu apaținătorii sau chiar cu psihologul. Deci, cumva, interacțiunea omului în ştiinţa artificială este cu câțiva pași înaintea interacțiunii mele, dintre mine și clientul pe care eu îl văd în fiecare zi.
- Care este riscul de a crea dependență, o astfel de relație între ChatGPT, relație confesională între ChatGPT și un utilizator?
Copaceanu: Da, sunt foarte multe riscuri. În primul rând acesta, cel mai grav este acesta că ai gândurile suicidale pe care nimeni nu le știe, nimeni în jurul tău și tu poate la un moment dat așa, cumva, te simți totuși în siguranță, în ghilimele, că discuţi cu el seara, ziua, în momentele tale private, înainte de somn, etc.
Și primești, cm spuneați, această validare. Și riscul este ca el să nu te poată opri așa cm ar face, dau un exemplu clar, noi suntem obligați ca psihologi, când avem o persoană care are un gând suicidar acut, nu doar să anunțăm familia, dar să recomandăm obligatoriu intrarea la psihiatrie pentru că nu poți, de la o zi la alta, să gestionezi riscurile acestea suicidare. Ceea ce nu face ChatGPT, adică ChatGPT nu poate să-ţi salveze ție viața cm ar face o persoană umană.
Celelalte riscuri sunt clare, de izolare socială, de faptul că discuți mai mult sau te auto-izolezi, nu discuți cu soția, cu familia, cu părinții, ci discuți mai mult cu el și el îți devine un confident apropiat așa, chiar cm spuneam, există o relație chiar de atașament în care îți cunoaște tot interiorul tău, al sufletului și nu mai ai disponibilitatea de a nu fi judecat, de a nu fi criticat, de a vorbi cu cei din familia ta sau cei, cm spuneam, cu medici sau psihologi, ci ai această relație intimă cu profunde gânduri, unele chiar negative și de moarte, cu ChatGPT.
- Ca specialist în domeniu, cm v-ați dori să fie reglementată, în acest sector, inteligența artificială? Pentru că e o discuție pe care va trebui să o avem mai devreme decât mai târziu și va trebui să o avem inclusiv la nivel de politici naționale, individuale, pe ministere, inclusiv la Ministerul Sănătății.
Copaceanu: cred că până acum nu există o discuție la nivel de Ministerul Sănătății pe acest domeniu, nici măcar la nivelul Ministerului Educației. Ele sunt mult mai prezente, nu putem alunga complet din viață, nu putem interzice, nu suntem în zona asta de, să spunem, autoritate și de stat comunist. Trebuie să le integrăm, dar trebuie noi înșiși ca psihologi și psihiatri să dobândim noi abilități și în același timp să încurajăm omul sau pacientul să aibă o relație umană, deschisă, cu tot ce înseamnă lumea reală din jurul său și prietenii săi și familia sa și nu cu inteligenţa artificială.
Ele pot fi niște instrumente chiar utile și îți ajută foarte mult să faci un research la job sau poate chiar la facultate, dar nu sunt niște terapeuți și nu sunt, ferească să fie terapeuți. Cum spuneam, cred că fiecare psiholog care ne urmăreşte în seara aceasta ar trebui să își întrebe clientul cât de des folosește ChatGPT pe partea asta de mental-health, nu doar pe alte tipuri de activități.
- Dar aici e deja unul dintre cazurile care au ajuns deja la psiholog și vorbește și cu ChatGPT în paralel. Ce facem cu oamenii care nu au ajuns vreodată la psiholog și vorbesc doar cu ChatGPT?
Copaceanu: încercăm să ajungem noi la ei. Asta e sarcina noastră și noi, dacă știm că pe lângă ChatGPT el folosește TikTok sau Instagram sau altă rețea, trebuie să fim mult mai prezenți noi în social-media pentru că sunt o grămadă de impostori acolo și da, dacă el nu merge spre noi, trebuie să mergem noi spre ei și, cm spuneam, cred că trebuie creat și ChatGPT-ul să spună "scuze, de aici nu știu să spun mai mult pe partea asta, te rog ... ".
Adică la un moment dat, dacă simți că are gânduri suicidare acute o persoană, tu ca instrument n-ar trebui să mai ai conversații îndelungate cu el ca să-i înțelegești cumva gândurile și ar trebui să spui "stop. Eu sunt incapabil, nu sunt psiholog, nu sunt psihiatru. Te rog de urgență să suni la 0800 sau la acest număr de urgență".
Adică trebuie create instrumentele exact din ChatGPT ca să aducă în mod real și la clinici pacientul care suferă.
- Vorbeați de costul unei ședințe de terapie. Ştim că avem o problemă cu subvenționarea, cu finanțarea sistemului, cu decontarea și înțelegerea fenomenului până la urmă. Pentru că dacă ar fi mai bine înțeles de către autorități și de cei care fac politicile de sănătate, probabil că ar fi și mai bine decontate și mai bine îndrumați oamenii către psihologi, către psihiatri. Dar vreau să vă întreb, vedeți un risc în faptul că într-un sistem subvenționat, prost, ca al nostru, că la un moment dat cei care fac politicile de sănătate se spună, "da, e mult mai ieftin decât terapia adevărată, hai să încurajăm partea asta, să subvenționăm partea asta"?
Copaceanu: Cred că ar fi clar iresponsabili și ar fi clar un protest de partea noastră ca psihologi, pentru că nu ar fi fezabil și nu ar fi deloc sănătos mental și deloc științific, pentru că ar crea mai multe riscuri. Ce putem spune? Ce au făcut colegii noștri din Marea Britanie. Au convins Guvernul Marii Britanii, în urmă cu vreo 10 ani, au arătat clar că o liră investită în psihoterapie, adică prin care statul clar decontează, salvează trei lire sau poate chiar cinci lire în alte situații din costul economic al societății.
Faptul că o persoană are depresie, că nu mai este la fel de eficient, productiv la locul de muncă, poate își ia multe concedii repetate și atunci corpul psihologilor a convins Guvernul Marii Britanii să finanţeze acele terapii care sunt eficiente, pentru că vor salva economic vorbind prin cife de milioane de euro, trei sau respectiv cinci lire din costul societății prin toată aplicarea aceasta psihologiă. În România nu avem aceste studii, dar ar trebui să convingem Guvernul României, care sper să fie stabil, să nu pice în câteva zile, să dea bani tocmai pentru starea mintală, ca să avem iată și cetățeni mai productivi, mai sănătoși, mai echilibrați și nu cazuri grave de, iată, infarct în spital, într-o gardă sau alte cazuri dureroase.
- Iată, că tot ați pomenit exemplul de astăzi. Ne imaginăm, domnule Copăceanu, și nu e imaginaţie, sunt fapte, sunt convins. Ne urmăresc de acasă oameni care trec prin momente grele, care trec prin burnout, care trec printr-un sentiment din acesta de dispreț și dezgust total față de viață, care poate sunt în urma unei despărțiri, care poate sunt în urma unui deces a unei persoane apropiate din familie și sunt în această psihoză, în această adicție față de ChatGPT, care le tot validează spirala aceasta a durerii, a dorului, a angoasei. Cum să iasă din ea? Ce le-ați spune?
Copăceanu: fa un efort și vorbește cu cineva care este lângă tine. Lângă noi sunt oameni apropiați, care se bucură dacă apelăm la ei și sunt buni prieteni sau buni oameni din familie. Din corelaţia asta pe care o ai cu ChatGPT, totuși este doar o tehnologie, doar un device, doar un algoritm creat de om, care are limitele sale și sunt riscante.
Iată, pune viața în pericol, dar apelează la oamenii care sunt lângă tine, chiar dacă la început ai cumva neîncredere și nesiguranță că te vor judeca sau te vor acuza sau te vor învinovăţi, dar viața merită trăită și fă un efort, pentru că cei mai mulți dintre pacienți care au avut instinct suicidar și au fost salvați, și-au dat seama că în depresie sunt foarte grave aceste gânduri, dar după ce au trecut de depresie, după ce cumva au vindecat depresia, au avut o mare satisfacție că încă sunt în viață și ăsta este cel mai mare beneficiu și cea mai mare satisfacție a oamenilor care s-au luptat cu depresia și au depășit-o.
Observator Antena1
