OpenAI odložio lansiranje četbota za odrasle zbog rizika i tehničkih izazova

Kompanija pauzira razvoj nakon što je procijenjeno da sistem za provjeru uzrasta griješi u više od 10 posto slučajeva, povećavajući pravne i reputacione rizike

Američka tehnološka kompanija OpenAI odložila je planirano lansiranje četbota za odrasle namijenjenog generisanju erotskog sadržaja, nakon što su zaposleni i investitori izrazili zabrinutost zbog mogućeg uticaja seksualizovanih AI rješenja na društvo i rizika od nezdravih emocionalnih veza korisnika sa vještačkom inteligencijom. Prema dostupnim informacijama, jedan od glavnih razloga za odlaganje je neuspjeh sistema za provjeru uzrasta korisnika, koji greškom dozvoljava pristup maloljetnicima u više od 10 posto slučajeva, što značajno povećava pravne i reputacione rizike kompanije.

Model četbota je bio razvijan tako da prepoznaje i filtrira ilegalni sadržaj, a istovremeno omogućava eksplicitne interakcije za punoljetne korisnike. Međutim, tehničke komplikacije u pouzdanom prepoznavanju granica između dozvoljenog i problematičnog sadržaja dodatno su zakomplikovale razvoj. Prethodno je kompanija već obustavila rad na Sora alatu za generisanje video snimaka na osnovu teksta, koji je razvijan u saradnji sa velikim zabavnim kompanijama.

OpenAI je naveo da se trenutno fokusira na svoja glavna produktivna rješenja, uključujući integraciju ChatGPT, pretraživača i Kodeks alata za kodiranje u jednu objedinjenu aplikaciju. Svi projekti koji nisu u fokusu, među kojima je i četbot za odrasle, stavljeni su na čekanje do daljnjeg, a kompanija nastoji precizno definisati etičke i tehničke granice korištenja vještačke inteligencije na osjetljivim tržištima.

Zabrinutost zaposlenih i investitora dodatno je pojačana mogućnošću da bi ovakav proizvod mogao dovesti do stvaranja nezdravih emocionalnih veza između korisnika i AI sistema, kao i do izloženosti maloljetnika sadržaju koji nije primjeren njihovom uzrastu. OpenAI je istakao važnost odgovornog razvoja i implementacije AI alata, posebno u oblastima sa povećanim regulatornim zahtjevima i društvenom osjetljivošću.

Dok kompanija nastavlja sa razvojem svojih ključnih proizvoda, odlaganje lansiranja četbota za odrasle signalizira opreznu strategiju prema inovacijama koje nose etičke, pravne i reputacione izazove. Budući koraci zavisiće od poboljšanja tehnologije provjere uzrasta i razvoja pouzdanih mehanizama za detekciju i filtriranje sadržaja, čime će OpenAI nastojati minimizirati rizike i zadovoljiti regulatorne standarde na globalnom tržištu.