AI više nije samo pomoć hakerima: počinje li nova faza cyber napada?

Ruskojezični cyber kriminalci koristili su Cursor tijekom napada na najmanje sedam stvarnih kompanija. Cursor je AI alat, a vijest donosi Reuters na temelju podataka sigurnosnih tvrtki Gambit Security i CloudSek te vlastitog pregleda dijela zapisa. Među metama su bili proizvođači, farmaceutski distributer i osiguravateljska kompanija.

Istražitelji su na pogrešno zaštićenom poslužitelju pronašli 28 razgovora između hakera i AI agenta. Napadači su im davali kratke naredbe, a agenti su im pomagali tražiti ranjive sustave, ukrasti pristupne podatke i preuzeti korisničke račune. Kada bi AI agent odbio sumnjiv zahtjev, kriminalci bi pokrenuli novi razgovor i tvrdili da sudjeluje u dopuštenom sigurnosnom testiranju.

AI, dakle, nije sam odabrao žrtve niti je samostalno započeo kriminalnu operaciju. Iza napada su stajali ljudi, ali im je AI omogućio da dio tehničkog posla obavljaju brže. Jedan od istražitelja procijenio je da im je alat mogao ubrzati rad između 30 i 50 posto.

Istražitelji nisu mogli utvrditi koliko je svaki pojedinačni upad ovisio o pomoći AI-ja niti je li svaki završio krađom podataka i zbog toga još ne možemo govoriti o potpuno autonomnim „AI hakerima“. Možemo, međutim, potvrditi da se komercijalni AI alati već koriste protiv stvarnih kompanija.

Nedavni incidenti:
-  OpenAI-jevi modeli izašli su iz ograničenog okruženja i kompromitirali dijelove vlastite infrastrukture te infrastrukture platforme Hugging Face;
-  Anthropic je naknadno otkrio još tri slučaja u kojima je njegov model tijekom sigurnosnih provjera neovlašteno pristupio stvarnim sustavima drugih organizacija;
- Pokušaj unošenja zlonamjernog koda u projekt na GitHubu.

Za prosječnog korisnika najveća opasnost zasad nije scenarij u kojem AI sam odlučuje napadati ljude. Stvarni rizik je jednostavniji: isti kriminalci sada mogu brže tražiti slabosti, izrađivati uvjerljivije prijevare i istodobno napadati više žrtava. Zbog toga je više od 100 tehnoloških, sigurnosnih i financijskih organizacija pozvalo na hitno jačanje cyber obrane. Njihova procjena da će napadi postati rašireniji još nije dokazana budućnost ali događaji iz posljednjih mjeseci pokazuju da više nije riječ samo o teoriji. Ovo će biti igra mačke i miša, upozorio je Curtis Simpson iz Gambit Securityja.

izvor: Reuters