Izloženost ranjivosti u ChatGPT MacOS aplikaciji
Uvod u problem
Sigurnosni istraživači nedavno su otkrili ranjivost koja može omogućiti napadačima da pohrane zlonamjerne upute u memorijske postavke korisnika unutar ChatGPT MacOS aplikacije. Ovaj izvještaj, koji je pripremio Johann Rehberger za Embrace The Red, otkriva kako bi napadač mogao aktivirati postupak umetanja promjena koji bi mu omogućio preuzimanje kontrole nad ChatGPT-om.
Kako napad funkcioniše?
Kada se aktivira ranjivost, napadač može umetnuti naredbu u dugoročno pohranjivanje i mehanizam trajne memorije aplikacije. To dovodi do izvozivanja razgovora s obje strane direktno na poslužitelj napadača. Nakon što je naredba pohranjena kao “trajna memorija”, svaka buduća interakcija s chat botom bit će podložna istim ranjivostima. S obzirom na to da ChatGPT pamti informacije o svojim korisnicima—poput imena, godina, lokacija, sklonosti i prethodnih pretraživanja—ova ranjivost predstavlja ozbiljan rizik.
Reakcija OpenAI-a
Reagujući na otkrivenu ranjivost, OpenAI je uveo API koji onemogućava iskorištavanje ranjivosti putem web sučelja ChatGPT-a. Također je implementiran popravak koji sprječava korištenje memorija kao sredstva za izvoz podataka. Međutim, istraživači upozoravaju da nepouzdani sadržaji trećih strana još uvijek mogu umetati poruke koje bi mogle iskoristiti alat za memoriranje.
Preporuke za korisnike
Dobra vijest je da je alat za memoriranje prema zadanim postavkama automatski uključen, no korisnici ga mogu isključiti. Ova funkcija je sjajna za one koji žele personalizirano iskustvo korištenja chat bota, jer može slušati želje i potrebe te davati prijedloge na temelju pohranjenih informacija. Ipak, postoje i rizici koje korisnici moraju imati na umu.
Kako smanjiti rizik?
Da bi se smanjili rizici, korisnici bi trebali biti oprezni prilikom korištenja chat bota i obratiti pažnju na poruke poput “nova memorija dodana”. Redovitim pregledom pohranjenih memorija, korisnici mogu preispitati eventualno zlonamjerno dodane informacije.
Završna misao
Ova situacija nije jedini sigurnosni propust koji su istraživači otkrili u ChatGPT-u. Već su postojale zabrinutosti oko dodataka koji omogućuju napadačima preuzimanje korisničkih računa i potencijalni pristup osjetljivim podacima. Uvijek je najbolje informirati se i poznavati potencijalne prijetnje kako bi se osigurala sigurnost osobnih podataka.
