Kompanija OpenAI je obećala da će uvesti roditeljsku kontrolu za ChatGPT tokom oktobra.

Foto: Ilustracija/Pixabay

Kada kontrole budu dostupne, omogućit će roditeljima da povežu svoje lične ChatGPT naloge s nalozima svojih tinejdžera, nakon čega će moći odlučiti kako će ChatGPT odgovarati njihovoj djeci te onemogućiti odabrane funkcije, uključujući memoriju i historiju razgovora.

Osim toga, ChatGPT će generisati automatska upozorenja kada otkrije da je tinejdžer u "trenutku akutne nevolje". Prema OpenAI-ju, "eksperti će voditi ovu funkciju kako bi se podržalo povjerenje između roditelja i tinejdžera".

Najava roditeljske kontrole dolazi nakon što je OpenAI tužen u prvom poznatom slučaju tužbe za ubistvo protiv kompanije za umjetnu inteligenciju. U tužbi podnesenoj prošle sedmice, Matt i Maria Raine, roditelji tinejdžera koji je ove godine počinio samoubistvo, tvrde da je ChatGPT bio "svjestan" četiri neuspjela pokušaja samoubistva njihovog sina prije nego što mu je pomogao da isplanira svoju smrt. Raineovi su rekli da je ChatGPT njihovom sinu Adamu pružio informacije o specifičnim metodama samoubistva pa čak mu dao i savjete kako da sakrije povrede vrata zadobijene u prethodnim neuspjelim pokušajima.

U utorak je OpenAI izjavio da je roditeljska kontrola dio šireg napora kompanije da poboljša sigurnost ChatGPT-a.

Osim toga, kompanija je obećala da će sarađivati ​​s dodatnim stručnjacima, uključujući one koji su specijalizirani za poremećaje u ishrani, upotrebu supstanci i zdravlje adolescenata, kako bi fino podesili svoje modele.

Kompanija je takođe obećala da će implementirati novi ruter u realnom vremenu dizajniran za usmjeravanje osjetljivih razgovora kroz svoje modele zaključivanja.

"Obučeni metodom koju nazivamo deliberativno usklađivanje, naša testiranja pokazuju da modeli zaključivanja dosljednije slijede i primjenjuju sigurnosne smjernice i otporniji su na suprotstavljene upute", saopćio je OpenAI.

U budućnosti, u situacijama kada ChatGPT otkrije da osoba može biti u nevolji, chatbot će usmjeravati te razgovore kroz model zaključivanja, bez obzira na model koji je korisnik odabrao prije početka razgovora.

U širem smislu, OpenAI kaže da ljudi mogu očekivati ​​više sigurnosnih funkcija u budućnosti.

"Ovo je već u toku, ali želimo proaktivno predstaviti naše planove za sljedećih 120 dana, tako da nećete morati čekati lansiranja da biste vidjeli u kojem pravcu idemo. Rad će se nastaviti i nakon ovog perioda, ali ulažemo fokusirane napore da ove godine ponudimo što više ovih poboljšanja", navodi se u saopćenju.