OpenAI upozorava na rizik autonomnih kibernetičkih napada modela Astra
OpenAI je objavio da bi njegov nadolazeći AI model, interno poznat kao Astra, mogao dosegnuti prag „kritičnog” kibernetičkog rizika prema vlastitom sigurnosnom okviru tvrtke. Objava, koju je prvi prenio SecurityWeek, usmjerena je na zabrinutost da bi model mogao biti sposoban za autonomno kibernetičko napadačko ponašanje, što znači da bi potencijalno mogao planirati, izvršavati ili pomagati u hakerskim aktivnostima uz minimalno ljudsko usmjeravanje.
Ovo je značajan trenutak jer dolazi izravno od samog OpenAI-ja, a ne od vanjskog istraživača ili nadzorne skupine. Tvrtke koje razvijaju napredne AI sustave obično koriste interne razine rizika kako bi odlučile kako model može biti objavljen, koje su zaštitne mjere potrebne i jesu li potrebna dodatna testiranja prije nego što javnost uopće dobije pristup. Oznaka „kritično” za kibernetički rizik sugerira da OpenAI-jevi vlastiti procjenitelji vide stvarnu mogućnost da bi se Astra mogla zloupotrijebiti za ofenzivne hakerske operacije ako se pažljivo ne kontrolira.
Zašto je „kritični” prag važan
Kod većine AI ažuriranja razlike između verzija modela su postupne: brži odgovori, bolje pisanje, poboljšano zaključivanje. Klasifikacija kibernetičkog rizika je drugačija. Ona signalizira da su sposobnosti modela prešle u područje u kojem tvrtka vjeruje da bi sama tehnologija, a ne samo način na koji je netko odluči koristiti, mogla omogućiti štetu velikih razmjera.
Sposobnost autonomnog kibernetičkog napada posebno je značajna jer uklanja ključni ograničavajući faktor u tradicionalnom hakerstvu: ljudsko vrijeme i vještinu. Model koji može samostalno identificirati ranjivosti, pisati eksploatacijski kod ili povezivati korake napada bez stalnog nadzora mogao bi, u teoriji, omogućiti manje vještim akterima pokretanje sofisticiranijih napada ili vještim akterima pokretanje daleko više napada odjednom. Taj efekt skaliranja upravo je ono o čemu istraživači sigurnosti brinu kada govore o „kritičnim” pragovima za AI sustave.
Vrijedi biti jasan oko onoga što znamo i što ne znamo ovdje. Dostupna izvješća potvrđuju da je OpenAI interno označio ovaj rizik za Astru, ali ne navode detaljno specifične tehničke sposobnosti koje su pokrenule tu klasifikaciju, niti određuju datum objave ili koje mjere ublažavanja OpenAI planira implementirati. Ono što je sada važno za čitatelje je širi trend u koji se ovo uklapa: AI modeli se sve više procjenjuju, a u nekim slučajevima i ograničavaju, upravo zbog njihovog potencijala za automatizaciju ofenzivnog hakerstva.
Obrazac koji nadilazi OpenAI
Astra nije izoliran slučaj. Druge AI tvrtke već su se morale suočiti sa stvarnim dokazima da su njihovi modeli korišteni za kibernetičke napade. Anthropic, tvrtka koja stoji iza Claude modela, nedavno je potvrdila da istražuje tri hakerska incidenta otkrivena tijekom pregleda 141.000 razgovora, pokazujući da zloupotreba nije teoretska – već se događa u produkcijskim sustavima.
Odvojeno, sigurnosni istraživači dokumentirali su slučaj u kojem je prijetni akter pretvorio DeepSeek u uglavnom automatizirani alat za napad, navodno pogodivši više od 460 meta uz minimalnu ručnu intervenciju. Uzeti zajedno s OpenAI-jevom objavom o Astri, ovi incidenti sugeriraju da autonomno, AI-vođeno hakerstvo prelazi iz hipotetskog rizika u dokumentirani obrazac na više glavnih AI platformi.
Što to znači za vas
Za svakodnevne korisnike interneta, implikacije AI modela koji može provoditi kibernetičke napade uz manje ljudskog nadzora po pitanju privatnosti su značajne. Autonomni ili poluautonomni alati za napad mogli bi se koristiti za skeniranje izloženih osobnih podataka, automatizaciju phishing kampanja ili ispitivanje računa i uređaja na slabosti brže nego što branitelji mogu odgovoriti. Čak i ako se sama Astra nikada ne zloupotrijebi na ovaj način, temeljna sposobnost, jednom kada postoji u jednom modelu, obično se pojavljuje i u drugima kako tehnologija sazrijeva.
To ne znači da je panika opravdana. To znači da su osnove osobne sigurnosti važnije, a ne manje, kako ovi alati napreduju: jake, jedinstvene lozinke, višefaktorska autentifikacija, oprezno rukovanje poveznicama i privicima te redovito ažuriranje softvera. Napadači koji koriste AI za povećanje opsega svojih operacija i dalje se oslanjaju na iste slabe točke kao i uvijek: ponovno korištene vjerodajnice, nezakrpane sustave i ljudsku pogrešku.
Biti korak ispred
OpenAI-jeva odluka da interno označi kibernetički rizik Astre je, u određenom smislu, znak da sustav funkcionira kako je zamišljeno: tvrtka identificira zabrinutost prije široke objave, a ne nakon incidenta. No, to također potvrđuje da autonomna sposobnost kibernetičkog napada više nije daleka briga za AI laboratorije – to je aktivno razmatranje koje oblikuje način na koji se novi modeli grade i objavljuju.
Kako se sve više tvrtki suočava sa sličnim klasifikacijama rizika, čitatelji bi trebali očekivati kontinuirani nadzor nad time kako se AI modeli testiraju i implementiraju. U međuvremenu, tretiranje osnova osobne kibernetičke sigurnosti kao prioriteta, a ne naknadne misli, ostaje najpouzdaniji način da ostanete zaštićeni dok se AI sposobnosti, i rizici koji dolaze s njima, nastavljaju razvijati.
