OpenAI Otkriće: Malicious Campaigns i Utjecaj na Demokrate
U najnovijem razvoju događaja, OpenAI je potvrdio otkrivanje niza računa koji su sudjelovali u zlonamjernim kampanjama, a odgovorne korisnike su isključili s platforme. Ove zabranjene račune, povezane s kampanjama pod nazivima ‘Peer Review’ i ‘Sponsored Discontent’, vjerojatno potječu iz Kine. OpenAI navodi da su se ti računi koristili za stvoriti sadržaj povezan s očitavanjem informacija i generiranjem antiameričkog sadržaja koji je imao za cilj ometanje demokracije, osobito u nestabilnim ili politički podijeljenim državama.
Utjecaj AI na Dezinformacije
Umjetna inteligencija (AI) je olakšala širenje dezinformacija, a zlonamjerni akteri je koriste kako bi omeli izbore i podkopali demokraciju. OpenAI je naglasio da su državno sponzorirani kampanje iskoristili ovu tehnologiju za svoje ciljeve. Primjerice, kampanja ‘Peer Review’ koristila je ChatGPT za generiranje “detaljnih opisa, usklađenih s marketinškim sadržajem, alata za praćenje društvenih mreža”, za koje su tvrdili da su ih koristili kako bi izvještavali kineske sigurnosne službe o prosvjedima na Zapadu.
Taktike Zlonamjernih Aktera
Kao dio ove nadzorne kampanje, zlonamjerni akteri koristili su AI modele za:
- Uređivanje i ispravljanje koda
- Generiranje promotivnih materijala
OpenAI nije uspjela identificirati objave na društvenim mrežama nakon kampanje, što dodatno podiže zabrinutost oko efikasnosti ovih taktika.
Kampanja ‘Sponsored Discontent’
Računi povezani s kampanjom ‘Sponsored Discontent’ korišteni su za generiranje komentara na engleskom jeziku i vijesti na španjolskom jeziku, što se može smatrati ‘spamouflage’ ponašanjem. Ova taktika se najviše oslanjala na Antiameričku retoriku, s ciljem izazivanja nezadovoljstva u Latinskoj Americi, posebno u zemljama poput Perua, Meksika i Ekvadora.
Zaključak
Ovo nije prvi put da su identificirani državno sponzorirani akteri iz Kine koji koriste ‘spamouflage’ taktike za širenje dezinformacija. Krajem 2024. godine, otkrivena je kineska kampanja utjecaja koja je ciljala američke birače s tisućama AI generiranih slika i videa, većinom loše kvalitete i s netočnim informacijama. Ovi eksperimenti s umjetnom inteligencijom predstavljaju ozbiljnu prijetnju za demokratske procese diljem svijeta i ističu potrebu za većom pažnjom i proaktivnim mjerama protiv dezinformacija.
