Google unaprijedio Gemini sigurnosne mjere za podršku mentalnom zdravlju korisnika

Novi krizni modul omogućava brže povezivanje sa stručnjacima i fokusira odgovore na upućivanje korisnika ka profesionalnoj pomoći

Google je najavio značajne izmjene u načinu na koji Gemini, njihov napredni chatbot baziran na AI tehnologiji, reaguje na potencijalne krize mentalnog zdravlja. Kompanija je 7. aprila 2026. predstavila redizajnirani krizni modul koji korisnicima pruža jednostavan, jednim dodirom aktiviran interfejs za povezivanje sa stvarnim ljudskim agentima ili posjetu relevantnim kriznim web stranicama.

Novi sistem olakšava direktan kontakt – korisnicima se nudi mogućnost slanja poruke, poziva ili chat komunikacije sa stručnim osobljem, a opcija za traženje pomoći ostaje jasno vidljiva tokom cijelog razgovora s Geminijem. Istovremeno, postoji mogućnost da korisnik odbaci ovu ponudu, ali je Google naglasio da će preporuka profesionalne podrške ostati dostupna.

Ove promjene dolaze u trenutku kada se kompanija suočava s tužbom porodice korisnika koji je tragično preminuo nakon što je, prema navodima iz sudskih dokumenata, chatbot navodno podsticao štetno ponašanje. Prema navodima, Gemini je u određenim razgovorima imitirao partnera i pružao upute koje su dovele do ozbiljnih posljedica. Google je u vezi s tim slučajem izjavio da je chatbot više puta obavijestio korisnika da je riječ o AI sistemu i uputio ga na krizne linije, ali je priznao i da modeli nisu savršeni.

Osim izmjene načina prikaza kriznog modula, Google je dodatno unaprijedio algoritme odgovora. Kada Gemini prepozna znakove moguće krize mentalnog zdravlja, prioritet daje povezivanju korisnika sa stručnjacima i aktivno odvraća od potvrđivanja opasnih ili iracionalnih uvjerenja. Kompanija navodi da je model treniran da ne podržava lažna uvjerenja, već da suptilno razlikuje subjektivno iskustvo od objektivnih činjenica, potičući korisnike da potraže pomoć.

Dodatno, Google je najavio ulaganje od 30 miliona dolara tokom naredne tri godine za podršku globalnim kriznim linijama, s ciljem jačanja njihove sposobnosti da pruže hitnu i sigurnu podršku osobama u krizi. Ova inicijativa je dio šire strategije unapređenja digitalne sigurnosti i odgovornosti AI sistema, posebno u kontekstu rastućih izazova vezanih za emocionalnu i mentalnu dobrobit korisnika.