Otvorenost Llama AI modela i vojne aplikacije: Sve što trebate znati
Meta, poznata tehnološka kompanija, pružila je svoj Llama AI model kao otvoreni izvor, što čini ovu tehnologiju lako dostupnom svima. Međutim, njegovo korištenje je jasno ograničeno pravilima licenciranja koja naglašavaju da je Llama namijenjena isključivo za civilne, a ne vojne svrhe. U ovom članku istražit ćemo nedavne zabrinutosti oko iskorištavanja otvorenih izvora, posebice nakon izvješća koja sugeriraju da su kineski istraživači povezani s Narodnom oslobodilačkom armijom (PLA) razvili vojno orijentirani AI model nazvan ChatBIT koristeći Llama.
ChatBIT: Izazov otvorenim izvorima
Razvoj ChatBIT-a naglašava potencijale i izazove koje otvorena tehnologija nosi u svijetu gdje je pristup naprednoj umjetnoj inteligenciji sve više viđen kao pitanje nacionalne sigurnosti. Tim kineskih istraživača, uključujući članove sa Akademije vojne znanosti PLA, prijavio je kreiranje ChatBIT-a korištenjem ranijih verzija Llama modela. Cilj im je bio razviti AI alat fokusiran na vojne aplikacije, integrirajući vlastite parametre u Llama 2 13B model.
- ChatBIT se prilagodio za procesuiranje vojnih dijaloga.
- Ciljao je pomoći u donošenju operativnih odluka.
- Vjeruje se da može raditi na razini do 90% kapaciteta GPT-4.
Analiza i izazovi u potvrdi performansi
Iako su mnoge informacije vezane uz razvoj ChatBIT-a podržane od strane analitičara koji se bave kineskom AI i vojnim istraživanjima, ostaje nejasno kako su točno izračunati ovi metriki performansi. Nedostatak detaljnih testnih procedura otežava potvrđivanje tih tvrdnji. Istraživanje Reutersa dodatno ukazuje na povezanosti između istraživača povezanim s PLA i razvoja ChatBIT-a, otkrivajući namjere kineske vojske da prilagodi Meta-ov otvoreni model za vojne svrhe.
Posljedice otvorenih izvora na nacionalnu sigurnost
Vojna primjena otvorenih AI izvora pokrenula je ponovno pitanje o sigurnosnim rizicima povezanima s javno dostupnom tehnologijom. Iako Meta, poput drugih tehnoloških kompanija, jasno postavlja restrikcije na upotrebu Llama u vojne svrhe, provedba takvih ograničenja praktički je nemoguća. Čim je izvorni kod dostupan, može se modificirati i prilagoditi, što omogućava stranim vladama da ovu tehnologiju prilagode svojom potrebama.
Potezi SAD-a za kontrolu tehnologije
Ova situacija dovela je do ponovnih zahtjeva unutar SAD-a za strožim kontrolama izvoza i ograničenjima pristupa Kini otvorenim i standardiziranim tehnologijama kao što je RISC-V. Ove mjere ciljaju spriječiti da američke tehnologije podrže potencijalno neprijateljske vojne napredke. Donosioci odluka također istražuju načine za ograničavanje američkih ulaganja u kineske AI, sektore poluvodiča i kvantnog računarstva kako bi smanjili protok stručnosti i resursa koji bi mogli podržati rast kineske tehnološke industrije.
Postavke ChatBIT-a i budućnost AI tehnologije
Unatoč zabrinutostima vezanima uz učinkovitost ChatBIT-a, neki stručnjaci su skeptični oko njegove performanse s obzirom na ograničene podatke korištene pri njegovom razvoju. Model je treniran na 100,000 vojnih dijalog podataka, što je malo u usporedbi s ogromnim bazama podataka koje koriste najsuvremeniji jezični modeli na Zapadu. Analitičari sugeriraju da bi to moglo ograničiti sposobnost ChatBIT-a u rješavanju složenih vojnih zadataka.
Meta je također reagirala na te optužbe, ističući da je verzija Llama 2 13B korištena za razvoj ChatBIT-a sada zastarjela, a tvrtka već radi na Llama 4. Molly Montgomery, direktorica javne politike Met-e, izjavila je: “Svaka upotreba naših modela od strane Narodne oslobodilačke armije je neovlaštena i u suprotnosti s našom politikom prihvatljive upotrebe.”
Zaključak
Razvoj i korištenje ChatBIT-a ukazuje na sve veće izazove na polju otvorene tehnologije i sigurnosti. Kako se tehnologija nastavlja razvijati, važno je da se osigura odgovorna upotreba kako bi se spriječila vojna zloupotreba. Ove situacije također pozivaju na veću pažnju vlada na osiguranje i zaštitu nacionalne sigurnosti, dok istovremeno održavaju ravnotežu između inovacija i etičkog korištenja tehnologije.
