Stručnjaci jedan od slučaja opisali kao „opasan“ i „uznemirujući“.

Foto: Ilustracija /Pixabay

Gugl je uklonio dio svojih zdravstvenih sažetaka zasnovanih na vještačkoj inteligenciji nakon što je istraga "Gardijana" otkrila da su ljudi dovođeni u rizik od štete zbog netačnih i obmanjujućih informacija.

Kompanija je saopštila da su njeni AI Overviews, koji koriste generativnu vještačku inteligenciju kako bi pružili kratke preglede ključnih informacija o nekoj temi ili pitanju, „korisni“ i „pouzdani“.

Međutim, neki od tih sažetaka, koji se pojavljuju na vrhu rezultata pretrage, nudili su netačne zdravstvene informacije, izlažući korisnike riziku od štete, piše britanski list.

U jednom slučaju koji su stručnjaci opisali kao „opasan“ i „uznemirujući“, Gugl je pružio lažne informacije o ključnim testovima funkcije jetre, što bi moglo dovesti do toga da osobe sa ozbiljnim oboljenjima jetre pogrešno pomisle da su zdrave.

Unošenjem upita „what is the normal range for liver blood tests“ (koji je normalan raspon za krvne testove jetre) dobijao se veliki broj vrijednosti, uz malo konteksta i bez uzimanja u obzir nacionalnosti, pola, etničke pripadnosti ili starosti pacijenata, utvrdio je "Gardijan".

Stručnjaci su kazali da se ono što je AI Overviews prikazivao kao normalno može drastično razlikovati od onoga što se zaista smatra normalnim. Takvi sažeci mogli bi dovesti do toga da ozbiljno bolesni pacijenti pogrešno zaključe da imaju normalne rezultate testova i da se ne pojave na kontrolnim zdravstvenim pregledima.

Nakon istrage, kompanija je uklonila AI Overviews za pretraživačke pojmove „what is the normal range for liver blood tests“ i „what is the normal range for liver function tests“.

Portparol Gugla izjavio je: „Ne komentarišemo pojedinačna uklanjanja unutar Pretrage. U slučajevima kada AI Overviews izostave dio konteksta, radimo na opštim poboljšanjima, a takođe preduzimamo mjere u skladu sa našim pravilima kada je to potrebno.“

Vanesa Hebdič, direktorica za komunikacije i politike u British Liver Trustu, humanitarnoj organizaciji za zdravlje jetre, kazala je: „Ovo su odlične vijesti i drago nam je što vidimo uklanjanje Guglovih AI Overviews u ovim slučajevima. Međutim, ako se pitanje postavi na drugačiji način, potencijalno obmanjujući AI Overview i dalje može biti prikazan i ostajemo zabrinuti da i druge zdravstvene informacije koje proizvodi AI mogu biti netačne i zbunjujuće.“

"Gardijan" je utvrdio da unošenje blagih varijacija originalnih upita u Gugl, poput „lft reference range“ ili „lft test reference range“, takođe pokreće AI Overviews. To je, kako je rekla Hebdič, veliki razlog za zabrinutost.

„Test funkcije jetre, ili LFT, predstavlja skup različitih krvnih testova. Razumijevanje rezultata i narednih koraka je složeno i podrazumijeva mnogo više od prostog poređenja niza brojeva. Međutim, AI Overviews prikazuju listu testova podebljanim slovima, zbog čega čitaoci lako mogu previdjeti da ti brojevi možda uopšte nijesu pravi za njihov test. Osim toga, AI Overviews ne upozoravaju da neko može imati normalne rezultate ovih testova, a ipak imati ozbiljno oboljenje jetre i potrebu za dodatnom medicinskom njegom. Ovakvo lažno uvjeravanje može biti veoma štetno.“

Gugl, koji ima 91 odsto udjela na globalnom tržištu pretraživača, saopštio je da razmatra nove primjere koje mu je dostavio "Gardijan".

„Naša veća briga u svemu ovome jeste to što se cjepidlači oko jednog rezultata pretrage i Gugl jednostavno može isključiti AI Overviews za taj slučaj, ali se ne bavi većim problemom – AI Overviews u oblasti zdravlja“, kazala je Hebdič.

Sju Farington, predsjednica Patient Information Foruma, organizacije koja promoviše zdravstvene informacije zasnovane na dokazima za pacijente, javnost i zdravstvene radnike, pozdravila je uklanjanje sažetaka, ali je rekla da i dalje ima zabrinutosti.

„Ovo je dobar ishod, ali je to tek prvi, vrlo mali korak u onome što je potrebno da bi se održalo povjerenje u Guglove rezultate pretrage u vezi sa zdravljem. I dalje postoji previše primjera u kojima Guglovi AI Overviews ljudima pružaju netačne zdravstvene informacije.“

Milioni odraslih širom svijeta već se suočavaju sa teškoćama u pristupu pouzdanim zdravstvenim informacijama, rekla je Farington. „Zato je izuzetno važno da Gugl upućuje ljude na čvrste, istražene zdravstvene informacije i ponude njege od strane pouzdanih zdravstvenih organizacija.“

Sažeci AI Overviews se i dalje pojavljuju za druge primjere koje je "Gardijan" ranije ukazao Guglu. Među njima su i sažeci informacija o raku i mentalnom zdravlju koje su stručnjaci opisali kao „potpuno pogrešne“ i „zaista opasne“, piše list.

Upitan zašto i ti sažeci nisu uklonjeni, Gugl je naveo da oni vode ka poznatim i uglednim izvorima i da informišu ljude kada je važno potražiti savjet stručnjaka.

„Naš interni tim kliničara pregledao je ono što nam je dostavljeno i utvrdio da u mnogim slučajevima informacije nisu bile netačne i da su bile potkrijepljene visokokvalitetnim internet stranicama“, kazao je portparol

Viktor Tangerman, glavni urednik tehnološkog sajta Futurism, rekao je da rezultati "Gardijanove" istrage pokazuju da Gugl ima još mnogo posla „kako bi osigurao da njegov AI alat ne širi opasne zdravstvene dezinformacije“.

Gugl je saopštio da se AI Overviews pojavljuju samo kod upita za koje ima visok stepen povjerenja u kvalitet odgovora. Kompanija, kako je navedeno, stalno mjeri i preispituje kvalitet svojih sažetaka u mnogim različitim kategorijama informacija.

U tekstu za Search Engine Journal, viši autor Met Sautern napisao je: „AI Overviews se pojavljuju iznad rangiranih rezultata. Kada je tema zdravlje, greške imaju veću težinu.“