OpenAI Pojačava Nagrade Za Otkrivanje Sigurnosnih Ranjivosti
OpenAI, vodeća kompanija u području umjetne inteligencije, odlučila je podići svoje nagrade za pronalaženje sigurnosnih ranjivosti. U novom koraku prema jačanju sigurnosti svojih sustava, OpenAI povećava nagradu u okviru svog programa za otkrivanje sigurnosnih grešaka s 20.000 na čak 100.000 dolara. Osim toga, kompanija širi opseg svog Programa Cybersecurity Grant i razvija nove alate za zaštitu svojih AI agenata od zlonamjernih prijetnji.
Povećanje Nagrada i Širenje Programa
Ova odluka dolazi nakon što su zabilježena upozorenja kako AI agenti mogu biti korišteni za pisanje i slanje phishing napada. OpenAI želi istaknuti svoju “posvećenost nagrađivanju značajnog i visokog utjecaja sigurnosnog istraživanja koje pomaže u zaštiti korisnika i održavanju povjerenja u naše sustave.”
Od pokretanja Programa Cybersecurity Grant 2023. godine, OpenAI je pregledao tisuće prijava i financirao 28 istraživačkih inicijativa. Ovaj napor pomaže firmi da dobije dragocjene uvide u sigurnosne teme, uključujući autonomne obrane od cyber napada, provociranje sigurnosnih grešaka i generiranje sigurnog koda.
Kontinuirano Praćenje Malicioznih Aktera
OpenAI neprestano prati maliciozne aktere koji pokušavaju iskoristiti njihove sustave te identificira i prekida ciljanje kampanja. “Ne branimo se samo,” izjavila je kompanija, “dijelimo znanja s drugim laboratorijima umjetne inteligencije kako bismo ojačali naše kolektivne obrane. Dijeljenjem ovih novih rizika i suradnjom unutar industrije i vlade, pomažemo osigurati da se tehnologije umjetne inteligencije razvijaju i implementiraju na siguran način.”
Povećanje Programa Nagrade i Suradnja u Cyber Secure Zajednici
OpenAI nije jedina kompanija koja povećava svoj program nagrada. Google je 2024. godine najavio petostruko povećanje nagrada za otkrivanje grešaka, objašnjavajući da sigurniji proizvodi otežavaju pronalaženje ranjivosti, što se odražava i u višim naknadama. S naprednijim modelima i agentima, te Googleovim povećanjem broja korisnika i razvojnih aktivnosti, postoji i veći broj potencijalnih ranjivosti koje bi mogle biti iskorištene.
OpenAI potvrđuje: “Surađujemo s istraživačima i praktičarima iz cijele zajednice kibernetičke sigurnosti. To nam omogućava da iskoristimo najnovije misli i dijelimo naše spoznaje s onima koji rade na stvaranju sigurnijeg digitalnog svijeta. Kako bismo obučili naše modele, surađujemo s ekspertima iz akademskih, vladinih i komercijalnih laboratorija kako bismo procijenili razlike u vještinama i dobili strukturirane primjere naprednog rasuđivanja u područjima kibernetičke sigurnosti.”
Zaključak
OpenAI i drugi lideri u industriji umjetne inteligencije usmjeravaju svoj fokus prema jačanju sigurnosti u digitalnom okruženju. Povećanjem nagrada i suradnjom s istraživačima, kompanije nastoje razviti sigurnije sustave koji će pružiti povjerenje korisnicima i osigurati odgovarajuću zaštitu od zlonamjernih prijetnji. Ova sinergija između istraživača i programera od vitalnog je značaja za budućnost sigurnosti umjetne inteligencije.<|vq_15392|>
