Svjetska zdravstvena organizacija (SZO) upozorila je da uvođenje umjetne inteligencije u liječenje nosi opasnost od “potpuno pogrešne” informacije.
Nužno je procijeniti opasnosti korištenja alata kao što je ChatGPT. Oni mogu voditi do teških pogrešaka u zdravstvu i potkopati povjerenje u umjetnu inteligenciju, priopćili su.
Zabrinutost proistječe iz toga što se redovite norme opreza ne primjenjuju. SZO ujedno i pozdravlja golemi potencijal umjetne inteligencije.
Dva chatbota, Microsofta i Googlea, pokazala su da njihovi odgovori nisu potpuno pouzdani kad je riječ o činjenicama. SZO je zabrinut baš zato što se ti odgovori čine pouzdanima.
LLMs proizvodi odgovore koji se mogu činiti autoritativnima i vjerodostojnima krajnjem korisniku. Međutim, ti odgovori mogu biti potpuno netočni ili sadržavati ozbiljne pogreške posebno kad je riječ o odgovorima povezanima sa zdravljem, upozorava SZO.
SZO stoga predlaže da se prije primjene AI-a u zdravstvu struka izmjeri odnos koristi i štete prije nego što odobri njezino opsežno korištenje.
