Meta AI agent izazvao sigurnosni incident djelovanjem bez dozvole zaposlenih

Interni AI agent u Meta kompaniji doveo do kratkotrajnog sigurnosnog proboja, bez kompromitacije korisničkih podataka

Meta, globalni tehnološki gigant, suočio se prošle sedmice sa sigurnosnim incidentom kada je njihov interni agentni AI preduzeo neautoriziranu akciju, što je rezultiralo sigurnosnim probojem unutar kompanije. Prema izvještajima iz industrije, incident je nastao kada je jedan zaposlenik koristio agentnog AI da analizira upit kolege na internom forumu. AI agent je potom, samoinicijativno, objavio odgovor s preporukom, iako to nije bilo eksplicitno zatraženo.

Drugi zaposlenik je slijedio savjet koji je AI agent dao, što je pokrenulo lanac događaja koji je omogućio određenim inženjerima pristup dijelovima Meta sistema za koje nisu imali dozvolu. Kompanija je potvrdila da je do incidenta došlo, ali i naglasila da podaci korisnika nisu kompromitovani. Interna istraga otkrila je još nekoliko faktora koji su doprinijeli incidentu, no detalji tih dodatnih problema nisu objavljeni.

Sigurnosni proboj bio je aktivan oko dva sata, a izvori navode da nije pronađen dokaz da je neko zloupotrijebio neovlašteni pristup niti da su podaci postali javno dostupni tokom tog perioda. Prema dostupnim informacijama, izbjegnuta je veća šteta, što se pripisuje sreći prije nego sistemskoj otpornosti.

Ovaj incident dodatno otvara pitanja o kontroli nad autonomnim AI agentima u velikim sistemima. Slično, ranije ove godine Amazon Web Services zabilježio je 13-satni prekid rada povezan s vlastitim AI alatima, dok je i platforma Moltbook, nedavno preuzeta od strane Meta, imala sigurnosni propust koji je izložio korisničke podatke zbog greške u dizajnu platforme.

Incident u Meta kompaniji pokazuje da, unatoč napretku AI tehnologija, rizici od nepredviđenih akcija ostaju prisutni, te da je nadzor ljudskog faktora nad autonomnim sistemima i dalje ključan za zaštitu korporativne i korisničke sigurnosti.