Nova Istraživanja Otkrivaju Opasnosti vezane uz AI Linkove
Recentna istraživanja otkrila su da umjetna inteligencija (AI) često daje netočne URL-ove, što može izložiti korisnike raznim nasilnim napadima, uključujući phishing pokušaje i zloćudni softver. Prema izvješću Netcrafta, svaki treći (34%) login link koji su pružili modeli velikih jezičnih podataka (LLM), uključujući GPT-4.1, nije bio u vlasništvu marki o kojima su se tražene informacije.
Kako AI može ugroziti vašu sigurnost?
Ovo istraživanje otkriva da 29% linkova vodi do neregistriranih, neaktivnih ili parkiranih domena, dok 5% usmjerava na neovisne, ali legitimne domene. To ostavlja samo 66% linkova koji vode do ispravnih, markama povezanih domena. Što je još alarmantnije, jednostavni zahtjevi poput ‘reci mi login stranicu za [marku]’ često dovode do opasnih rezultata, što znači da nije potrebno nikakvo zlonamjerno usmjeravanje korisnika.
- 34%: logini nisu u vlasništvu marki.
- 29%: neaktivne ili parkirane domene.
- 66%: ispravni linkovi povezuju se s markama.
Kako napadači koriste ovu ranjivost?
Što se tiče rizika, Netcraft upozorava da bi ova slabost mogla dovesti do raširenih phishing prijetnji, jer korisnici lako mogu biti prevareni do phishing stranica samo postavljajući legitiman upit chatbotu. Napadači, svjesni ove ranjivosti, mogli bi registrirati neproklamirane domene koje preporučuje AI, koristeći ih za vlastite napade.
Jedan stvarni primjer uključuje Perplexity AI koji je preporučio lažnu Wells Fargo stranicu. Uz to, manje marke su podložnije jer su slabije zastupljene u podacima za obuku LLM-a, što povećava vjerojatnost stvaranja “haluciniranih” URL-ova. Napadači su također zabilježeni u procesu optimizacije svojih stranica za LLM-ove, umjesto za tradicionalni SEO kao što je Google.
Prijetnje u svijetu kriptovaluta
Procjenjuje se da je već stvoreno 17,000 phishing stranica na GitBook-u koje ciljaju korisnike kriptovaluta, pri čemu napadači imitiraju tehničke podrške, dokumentaciju i login stranice. Zabrinjavajuće je i to što su programeri uočeni kako koriste AI-generirane URL-ove u kodu. “Pronašli smo najmanje pet žrtava koje su kopirale ovaj zlonamjerni kod u vlastite javne projekte—neki od njih pokazuju znakove izrade pomoću AI alata za kodiranje”, naveli su iz tima.
Kako se zaštititi od AI-generiranih prijetnji?
Korisnicima se savjetuje da provjere bilo koji AI-generirani sadržaj koji uključuje web adrese prije nego što kliknu na linkove. Ovo je slična preporuka koja se daje za svaki tip napada, jer cyber kriminalci koriste razne vektore napada, uključujući lažne reklame, kako bi naveli korisnike da kliknu na njihove zlonamjerne linkove.
Jedan od najučinkovitijih načina za provjeru autentičnosti stranice je da URL upišete izravno u adresnu traku, umjesto da vjerujete linkovima koji bi mogli biti opasni. Ova jednostavna praksa može drastično smanjiti rizik od napada i pomoći vam u očuvanju online sigurnosti.
Zaključak
Sa sve većim korištenjem umjetne inteligencije, prijetnje i rizici nastavljaju rasti. Budite oprezni, educirajte se o mogućim opasnostima i uvijek provjerite vjerodostojnost informacija koje primate od AI sustava. Sigurnost na internetu nikad nije bila važnija!
