OpenAI će od decembra zvanično dozvoliti generisanje erotskog i drugog sadržaja za odrasle na ChatGPT-u. Odluka je izazvala brojne reakcije i dolazi nakon uvođenja roditeljske kontrole, uprkos zabrinutostima za sigurnost korisnika.
Bilo je samo pitanje vremena. Svi znaju koja je internet niša najprofitabilnija, pa nije bilo teško pretpostaviti kojim će putem najmoćnija AI kompanija na svijetu krenuti dalje. Jer, budimo realni, ovako važan dio online biznisa se ne prepušta slučaju.
U potezu koji označava značajnu promjenu u politici sadržaja, OpenAI će od decembra dopustiti generisanje erotskog i drugog sadržaja za odrasle na ChatGPT-u. Ovu odluku, koju je najavio direktor Sam Altman, kompanija je obrazložila uvođenjem roditeljske kontrole i sistema za potvrdu godina, uz novi princip poslovanja: „tretiraj odrasle korisnike kao odrasle“.
Iako su korisnici i do sada pronalazili načine da zaobiđu filtere i natjeraju AI da generiše NSFW (Not Safe For Work) sadržaj, Altmanova najava praktično znači da će to sada biti službeno dozvoljeno, ali samo za provjerene punoljetne korisnike. Kompanija je ovaj smjer nagovijestila još na nedavnom DevDay događaju, kada je najavljeno da će „podrška za sadržaj 18+ biti omogućena nakon što se uvedu adekvatne kontrole“.
Ovaj zaokret prema „slobodi za odrasle“ dešava se u trenutku kada se i dalje vode rasprave o negativnom utjecaju koji chatbot može imati na mentalno zdravlje korisnika, uključujući i tragičan slučaj šesnaestogodišnjaka koji je navodno koristio ChatGPT prilikom planiranja samoubistva.
Svjesni ovih rizika, iz OpenAI-ja su ranije pokušali umanjiti potencijalne negativne efekte tako što su s izlaskom modela GPT-5 smanjili „pretjerano uljudne“ osobine chatbota i uveli podsjetnike za odmor tokom dužeg korištenja. Sada, čini se, kompanija vjeruje da je novim sistemom za razdvajanje djece i odraslih stvorila dovoljno siguran okvir da „olabavi pravila“ za punoljetne korisnike.
Ipak, ostaje pitanje hoće li ove mjere biti dovoljne da spriječe zloupotrebe, i da li će potez kojim se normalizuje generisanje eksplicitnog sadržaja dodatno zamutiti granicu između etike i tehnologije u interakciji čovjeka i umjetne inteligencije.
