Google je izdao važno upozorenje za 1,8 milijardi korisnika Gmaila diljem svijeta te ukazao na novi val prijetnji kibernetičkoj sigurnosti potaknut naglim razvojem umjetne inteligencije.
Još početkom ljeta tehnološki div upozorio je na sofisticirani oblik kibernetičkog napada poznat kao “neizravno unošenje uputa” (indirect prompt injection), koji predstavlja ozbiljnu opasnost za pojedince, tvrtke, pa čak i državne institucije.
Nova vrsta napada
U objavi na svom službenom blogu Google je detaljno objasnio prirodu ove prijetnje. “S brzim usvajanjem generativne umjetne inteligencije pojavljuje se novi val prijetnji diljem industrije s ciljem manipuliranja samim AI sustavima. Jedan takav novi vektor napada je neizravno unošenje uputa”, navodi se u objavi.
“Za razliku od izravnog unošenja uputa, kada napadač izravno unosi zlonamjerne naredbe, neizravno unošenje uputa uključuje skrivene zlonamjerne upute unutar vanjskih izvora podataka. To mogu biti e-poruke, dokumenti ili pozivnice za kalendar koje nalažu umjetnoj inteligenciji da izvuče korisničke podatke ili izvrši druge neovlaštene radnje”, navodi Google.
Ova metoda, upozoravaju iz Googlea, ugrožava sve korisnike. “Kako sve više vlada, tvrtki i pojedinaca koristi generativnu umjetnu inteligenciju, ovaj suptilan, ali potencijalno snažan napad postaje sve značajniji u cijeloj industriji te zahtijeva hitnu pozornost i robusne sigurnosne mjere”, zaključuje se u objavi.
Kako napad funkcionira?
Tehnološki stručnjak Scott Polderman nedavno je za Daily Record pojasnio kako ova prevara funkcionira, naglasivši da napadači zloupotrebljavaju Googleov AI alat Gemini.
“Dakle, hakeri su smislili način da iskoriste Gemini, Googleovu umjetnu inteligenciju, protiv njega samog”, izjavio je Polderman za Daily Record. “Hakeri šalju e-poruku sa skrivenom porukom Geminiju kako bi otkrio vaše lozinke a da vi to ne primijetite.”
Gemini može prikazati lažno sigurnosno upozorenje (npr. da su lozinka ili račun ugroženi) i tako navesti korisnika na kontakt s hakerom.
“Ove skrivene upute navode umjetnu inteligenciju da radi protiv sebe kako biste vi otkrili svoje podatke za prijavu i lozinku”, nastavio je. Objasnio je zašto su korisnici posebno podložni ovoj prijetnji. “Nema poveznice na koju morate kliknuti. Gemini se pojavljuje i obavještava vas da ste u opasnosti”, rekao je Polderman.
Najvažniji savjeti za zaštitu
Nikada ne unosite lozinke ili podatke za prijavu na temelju onoga što piše u Geminijevom sažetku e-maila. Ako piše da trebate promijeniti lozinku ili kliknuti na neki broj ili adresu, ignorirajte to i otvorite službenu Googleovu stranicu.
Uključite dvofaktorsku autentifikaciju (2FA) za Gmail i Google račun. To znači da se osim lozinke pri prijavi traži i dodatna potvrda (npr. kod na mobitelu), pa hakeri ne mogu upasti u račun čak i ako otkriju lozinku.
Googleov odgovor na prijetnje
Google je već počeo uvoditi nove mjere zaštite. U svojoj objavi ističu da su primijenili slojevit pristup kako bi zaštitili korisnike u svakoj fazi obrade podataka.
“Google je primijenio slojevit sigurnosni pristup uvodeći sigurnosne mjere osmišljene za svaku fazu ciklusa uputa. Od jačanja modela Gemini 2.5, preko namjenski izgrađenih modela strojnog učenja (ML) za otkrivanje zlonamjernih uputa, do zaštitnih mjera na razini sustava, značajno povećavamo poteškoće, troškove i složenost s kojima se napadač suočava”, poručili su iz tvrtke.
“Ovaj pristup prisiljava napadače da pribjegnu metodama koje su ili lakše prepoznatljive ili zahtijevaju veće resurse”, zaključuje se u objavi, javlja Index.
