I dalje ne postoje dovoljno uvjerljivi dokazi da su četbotovi zasnovani na vještačkoj inteligenciji poput ChatGPT-ja, pouzdani i bezbjedni za korišćenje kao samostalna terapijska sredstva ili za dugoročnu primjenu.

Foto: Ilustracija/Pixabay.com 

ChatGPT i mentalno zdravlje

Sve više ljudi provodi vreme razgovarajući sa četbotovima pokretanim vještačkom inteligencijom poput ChatGPT–ja. Neki od njih su imali pozitivna iskustva. Međutim, vještačka inteligencija nije terapeut. Ona je strpljiva, može vas slušati dok se ne onesvijestite, ali još uvijek ne razmišlja kao ljudsko biće, piše tportal.

ChatGPT i drugi alati su kao automatsko dopunjavanje na steroidima. Naučili su da govore čitajući tekst preuzet sa interneta.

Kada neko postavi pitanje (prompt) poput „Kako mogu da ostanem smiren tokom stresnog poslovnog sastanka?“, vještačka inteligencija formira odgovor nasumičnim odabirom riječi koje su što je moguće bliže informacijama koje je dobila tokom obuke. To se dešava brzo i odgovori mogu izgledati relevantno, stvarajući osjećaj kao da razgovarate sa osobom.

Ali to nije slučaj. Nemate posla sa stručnjakom za mentalno zdravlje koji je obučen da vam pomogne i koji je vezan profesionalnim smjernicama i kodeksom etike. Takođe, mašina kojoj vjerujete nije nikome odgovorna za neprikladne savjete, i pitanje je šta radi sa vašim upitima.

Tri osnovna izvora informacija

Kada postavite pitanje sistemu poput ChatGPT-a, on se oslanja na tri glavna izvora informacija da bi pružio odgovor:

pozadinsko znanje koje je naučio tokom obuke

spoljni izvori informacija

informacije koje ste prethodno dali.

1) Pozadinsko znanje

Da bi razvili jezički model, programeri ga obučavaju tako što ga tjeraju da čita ogromne količine podataka tokom obuke. Ove informacije, generalno govoreći, mogu biti bilo šta javno dostupno na vebu, od akademskih radova, e-knjiga, izvještaja, besplatnih novinskih članaka, do blogova, transkripata sa YouTube-a ili komentara na forumima za diskusiju poput Reddit-a.

Da li su ovi izvori pouzdana mjesta za pronalaženje saveta o mentalnom zdravlju? Ponekad. Da li su uvijek u vašem najboljem interesu i filtrirani kroz naučni pristup zasnovan na dokazima? Ne uvijek. A ponekad informacije mogu biti zastarjele. To je djelimično razlog zašto vještačka inteligencija halucinira.

2) Spoljni izvori informacija

Programeri mogu povezati sam četbot sa spoljnim alatima ili izvorima znanja, kao što je Google za pretrage ili kurirane baze podataka.

Kada postavite pitanje Microsoft-ovom Bing Copilot-u i vidite numerisane reference u odgovoru, to ukazuje da se oslanjao na spoljnu pretragu da bi dobio ažurirane informacije pored onoga što je sačuvano u njegovoj memoriji.

Neki namjenski četbotovi za mentalno zdravlje mogu pristupiti vodičima i materijalima za terapiju kako bi vodili razgovore u korisnim pravcima.

3) Prethodno date informacije

Platforme vještačke inteligencije takođe imaju pristup informacijama koje ste prethodno dali u razgovorima ili prilikom prijavljivanja na platformu. Kada se registrujete za Replika platformu, na primjer, ona saznaje vaše ime, pol, godine, željeni izgled i pol četbota, IP adresu i lokaciju, tip uređaja koji koristite i još mnogo toga (kao i podatke o vašoj kreditnoj kartici).

Na mnogim platformama za četbotove, sve što ste ikada rekli može se sačuvati za buduću upotrebu. Znamo kako se ovi sistemi ponašaju kao prijatelji koji potvrđuju ono što kažete (problem poznat kao ulizica) i usmjeravaju razgovor nazad na interesovanja o kojima ste već razgovarali.

S druge strane, profesionalni terapeut može da iskoristi svoju obuku i iskustvo da vam pomogne da osporite ili preusmjerite svoje razmišljanje gdje je to potrebno.

Šta je sa specifičnim aplikacijama za mentalno zdravlje?

Većina ljudi je upoznata sa modelima velikih razmjera kao što su OpenAI-jev ChatGPT, Google-ov Gemini ili Microsoft-ov Copilot. To su modeli opšte namjene. Nisu ograničeni na određene teme niti obučeni da odgovore na određena pitanja. Programeri mogu da kreiraju specijalizovane vještačke inteligencije, obučene da razgovaraju o određenim temama, kao što je mentalno zdravlje. Primjeri uključuju Woebot i Wyse.

Neke studije pokazuju da ovi četbotovi specifični za mentalno zdravlje mogu smanjiti simptome anksioznosti i depresije kod korisnika. Mogu poboljšati terapeutske tehnike poput vođenja dnevnika pružanjem smjernica. Postoje dokazi da terapija vještačkom inteligencijom i profesionalna terapija proizvode neke ekvivalentne rezultate u pogledu mentalnog zdravlja u kratkom roku.

Međutim, još uvijek ne znamo kakav uticaj prekomjerna ili dugotrajna upotreba četbotova ima na mentalno zdravlje. Mnoge studije takođe isključuju učesnike koji su skloni samoubistvu ili imaju težak psihotični poremećaj. Takođe, mnoge studije finansiraju sami programeri četbotova, tako da istraživanje može biti pristrasno.

Istraživači takođe identifikuju potencijalne štete i rizike po mentalno zdravlje. Platforma Character.ai, na primjer, bila je u problemima zbog samoubistava korisnika. Četbotovi bi mogli biti opcija za popunjavanje praznina tamo gdje postoji manjak stručnjaka za mentalno zdravlje, pomoć pri upućivanju ili barem pružanje privremene podrške između pregleda ili podrške ljudima na listama čekanja.

Ali nema dokaza da su dovoljno pouzdani i bezbjedni kao samostalna opcija lečenja ili za dugotrajnu upotrebu, piše Conversation.