Koristimo je za planiranje putovanja, prevođenje, pisanje e-poruka i rješavanje svakodnevnih nedoumica. Nerijetko se i u društvu našali rečenica: “Ma pitaj ChatGPT, on sve zna.” No, upravo u tom uvjerenju krije se opasna zamka – pogotovo kada je riječ o zdravlju. Nedavni slučaj iz medicinske prakse pokazuje koliko slijepo povjerenje tehnologiji može završiti tragično.

Jedan muškarac, želeći poboljšati prehranu i smanjiti unos soli, odlučio je potražiti savjet od AI chatbota. Prema medicinskom izvješću objavljenom u časopisu Annals of Internal Medicine, chatbot mu je preporučio da umjesto obične soli koristi natrijev bromid.

Ne znajući da se ta tvar koristi u dezinfekciji vode i kao kemijsko sredstvo protiv algi i bakterija, muškarac ju je nabavio putem interneta i počeo redovito konzumirati.

Opasna situacija

Nakon tri mjeseca, njegovo se stanje naglo pogoršalo. Razvio je teške paranoidne misli, vjerovao da ga susjed pokušava otrovati, te je doživljavao halucinacije, prenosi Indy100.

Liječnici su ga hitno hospitalizirali, a krvne analize otkrile su šokantnu činjenicu – razina bromida u njegovoj krvi bila je čak 1700 mg/L, dok se sigurnom smatra vrijednost ispod 10 mg/L. Dijagnosticiran mu je bromizam, rijetko ali ozbiljno trovanje bromidom.

Trik iskusnih domaćica: Kako odabrati najbolji domaći paradajz i izbjeći bezukusne iz plastenika

Stručnjaci koji su opisali ovaj slučaj upozorili su kako AI sustavi mogu iznositi netočne i opasne informacije, bez potrebnog konteksta i kritičkog promišljanja. Poruka je jasna – umjetna inteligencija može biti iznimno korisna, ali kada je riječ o zdravlju, konačnu riječ trebaju imati medicinski stručnjaci, a ne algoritmi.