Otkrivanje zloćudnih kampanja: OpenAI se bori protiv upotreba umjetne inteligencije
OpenAI je nedavno objavio informaciju o svojim naporima da neutralizira brojne zloćudne kampanje koristeći svoje AI proizvode, uključujući i ChatGPT. U izvještaju pod nazivom “Omogućavanje prekida zloćudnih upotreba umjetne inteligencije: lipanj 2025.”, OpenAI iznosi kako je u prvih nekoliko mjeseci 2025. godine razotkrio ili osujetio 10 prijevara vezanih uz zapošljavanje, operacija utjecaja i spam kampanja koje su koristile ChatGPT. Mnoge od tih kampanja vodile su državne operacije povezane s Kinom, Rusijom i Iranom.
Raznolike zloćudne strategije
Četiri od kampanja koje je OpenAI prekinuo potekle su iz Kine i fokusirale su se na socijalno inženjering, tajne operacije utjecaja i cyber prijetnje. Jedna od istaknutih kampanja, nazvana “Sneer Review”, usmjerena je na Tajvansku društvenu igru “Reversed Front” koja uključuje otpor protiv Kineske komunističke partije. Ova je igra bila bombardirana kritičnim komentarima iz Kine, a mreža koja je stajala iza kampanje dovela je do stvaranja članka koji je objavljen na forumu, tvrdeći da je igra naišla na široki negodovanje, s ciljem diskreditacije kako igre, tako i tajvanske neovisnosti.
- Sneer Review: Kampanja koja je pokušavala diskreditirati tajvansku igru.
- Helgoland Bite: Ruski akteri koristili su ChatGPT za kreiranje tekstova koji kritiziraju SAD i NATO.
Društveni mediji pod utjecajem
Druga kampanja pod nazivom “Helgoland Bite” uključivala je ruske aktere koji su koristili ChatGPT za generiranje sadržaja na njemačkom jeziku, usmjerenog na kritiku Sjedinjenih Država i NATO-a, uključujući i sadržaj vezan uz njemačke izbore 2025. godine. Ovaj je tim također koristio ChatGPT za pretraživanje opozicijskih aktivista i blogera, generirajući poruke koje se pozivaju na koordinirane objave na društvenim mrežama i plaćanja. OpenAI je također zabranio brojne ChatGPT račune povezane s utjecajem na prizore u SAD-u, u operaciji poznatoj kao “Uncle Spam”.
- Uncle Spam: Operacija istraživanja i blokade računa povezanih sa zloćudnim utjecajima.
Važnost svijesti o zloćudnim sadržajima
Izvještaj OpenAI-a služi kao važan podsjetnik da nije sve što vidimo na internetu objavljeno od stvarne ljudske osobe. Osoba s kojom ste se možda posvađali online može dobiti upravo ono što želi; angažman, bijes i podjele. U mnogim slučajevima, kineski akteri stvarali su visoko podijeljeni sadržaj s ciljem širenja političkih razlika u SAD-u, uključujući stvaranje računa društvenih mreža koji su objavljivali argumente za i protiv carina, te generiranje profila koji su oponašali stranice podrške veteranima iz SAD-a.
Zaključak
Ovi događaji naglašavaju rizike povezane s korištenjem umjetne inteligencije i njenom primjenom u zloćudne svrhe. Kako tehnologija napreduje, važno je ostati informiran i kritički promatrati sadržaj koji konzumiramo online.
