OpenAI je uklonio brojne korisničke račune širom svijeta nakon što je posumnjao da se ChatGPT koristi u zlonamjerne svrhe, navodi se u novom izvještaju.
Prevaranti sve više koriste AI za poboljšanje napada, ističe OpenAI u izvještaju gdje se opisuje AI trendove i metode koje koriste zlonamjerni akteri, uključujući studije slučaja napada koje je firma spriječila. ChatGPT, koji ima više od 400 miliona aktivnih korisnika sedmično, besplatno je dostupan globalno.
U izvještaju OpenAI navodi da je više puta uočio prijetnje u kojima se AI koristi za više zadataka istovremeno, od ispravljanja programskog koda do generiranja sadržaja za objavu na različitim distribucijskim platformama.
Među slučajevima koje je OpenAI otkrio, firma je nedavno zabranila ChatGPT račun koji je generirao novinske članke s ciljem diskreditacije SAD. Ti su članci potom objavljeni u mainstream medijima u Latinskoj Americi pod imenom kineske firme.
Osim toga, OpenAI je zabranio račune koji su navodno potekli iz Sjeverne Koreje, a koristili su AI za generiranje životopisa i online profila izmišljenih kandidata za posao. Firma sumnja da su ti profili stvoreni u pokušaju dobivanja poslova u zapadnim kompanijama.
U drugom slučaju, OpenAI je identificirao grupu računa potencijalno povezanih s Kambodžom, koji su koristili ChatGPT za prevođenje i generiranje komentara u okviru romantične prevare na društvenim mrežama i komunikacijskim platformama, uključujući X, Facebook i Instagram.
