U februaru 2024. godine, zaposleni u jednoj hongkonškoj finansijskoj kompaniji učestvovao je u video konferenciji sa — kako je bio uvjeren — generalnim direktorom i nekoliko kolega. Na kraju poziva, izvršio je transfer od 25 miliona USD na nalog koji mu je “direktor” zadao. Svi učesnici videa bili su deepfake generisane kopije stvarnih osoba. Ni jedan čovjek na ekranu nije bio živ. (CNN, 4. februar 2024.)
Ovo nije izolovan slučaj. Prema FBI IC3 godišnjem izvještaju za 2023., Business Email Compromise (BEC) prevare uzrokovale su gubitke veće od 2,9 milijardi USD samo u SAD-u. Sa integracijom deepfake audio i video tehnologije, ova cifra eksponencijalno raste.
Kloniranje glasa u realnom vremenu omogućava kriminalcima da unutar nekoliko sekundi replikuju glas bilo kojeg menadžera ili direktora preduzeća, prebacujući težište sajber kriminala sa digitalnih propusta direktno na ljudsku psihologiju.
Scenario iz prave prakse: Kako izgleda savremeni AI napad?
Da bismo razumjeli opasnost ove tehnologije, moramo je posmatrati kroz realistični scenario koji se sve češće dešava u poslovnom svijetu širom planete:
- Faza pripreme (Izviđanje): Napadač targetira kompaniju i identifikuje ključne osobe – generalnog direktora (CEO) i šefa računovodstva ili finansija. Kroz javno dostupne materijale (video intervjui na YouTube-u, paneli, podcasti ili izjave za medije), napadač prikuplja svega tridesetak sekundi čistog audio materijala na kojem direktor govori.
- Inicijalni kontakt (Mejl): Šefu računovodstva stiže email sa adrese koja izgleda gotovo identično direktorovoj: “Na veoma sam važnom i povjerljivom sastanku sa advokatima oko akvizicije nove opreme. Moramo hitno uplatiti avans od 25.000 EUR kako ugovor ne bi propao. Trenutno ne mogu da kucam, ali nazvaću te na kratko sa sastanka da potvrdim nalog.”
- AI izvršenje (Poziv): Telefon zvoni. Sa druge strane žice čuje se prepoznatljiva boja glasa direktora, njegov specifičan akcenat, pa čak i ambijentalna buka sastanka u pozadini. Glas užurbano govori: “Da, ja sam, situacija je kritična, pusti onu uplatu o kojoj sam ti pisao u mejlu odmah, gubimo ugovor ako ne legne u narednih pola sata. Računam na tebe, žurim nazad unutra.” Veza se prekida.
- Ishod: Žrtva, potpuno uvjerena da je razgovarala sa svojim nadređenim, unosi i autorizuje nalog. Novac odlazi na inostrani račun prevaranata, a prevara se otkriva tek na kraju radnog vremena ili tokom narednih dana kada se direktor vrati sa puta.
Tehnička pozadina: Koliko je lako klonirati nečiji glas?
Zabluda je da su za kreiranje uvjerljivog deepfake audio snimka potrebni super-računari ili skupi softver. Alati su danas komercijalno dostupni, jeftini i zastrašujuće jednostavni za upotrebu:
- ElevenLabs — lider na tržištu TTS/voice cloning-a. Besplatni tier dovoljan je za generisanje uzorka; plaćeni planovi počinju od 5 USD/mjesečno i nude voice cloning iz 30-sekundnog sampla sa izlazom gotovo nerazlučivim od originala.
- Resemble AI — specijalizovan za real-time voice changing tokom aktivnih poziva. Napadač govori, AI transformiše glas u ciljani u milisekundama.
- RVC (Retrieval-based Voice Conversion) — open-source, besplatan, lokalno se pokreće. Dostupan na GitHub-u, bez cenzure, bez limita.
Modernim neuronskim mrežama više nije potreban ogroman skup podataka. Dovoljno je unijeti kratak audio uzorak (tzv. “Voice Seed”) kako bi AI u potpunosti mapirao:
- Boju i ton glasa, specifičan regionalni akcenat.
- Emotivni ton — užurbanost, stres, smirenost.
- Prirodne nesavršenosti: uzdisanje, pauze, oklijevanje između riječi.
Kada sistem jednom mapira glas, napadač u tekstualno polje ukuca željeni tekst (Text-to-Speech), a AI generiše audio fajl ili vrši real-time transformaciju tokom aktivnog telefonskog poziva.
Kako se odbraniti? Proceduralni i tehnički protokoli
Pošto se u ovom slučaju ne radi o propustu u kodu ili zastarjelom OS-u, klasična perimetarska odbrana ovdje gubi bitku. Potreban je kombinovani pristup — i procesni i tehnički.
1. Uvođenje interne “Sigurnosne lozinke” (Safe Word)
Svaka vanredna finansijska transakcija koja prelazi određeni limit, a nalaže se putem telefona ili video poziva, mora biti potvrđena internom tajnom lozinkom. Ovu šifru znaju isključivo članovi uprave i lica ovlašćena za izvršavanje plaćanja. Ukoliko osoba sa druge strane žice ne može da izgovori dogovorenu lozinku, poziv se automatski prekida i incident se prijavljuje IT sektoru.
2. Obavezni “Out-of-Band” verifikacioni protokol
Ako nalog za hitno plaćanje stiže kroz jedan kanal (npr. email), verifikacija mora ići kroz potpuno drugi, nezavisni kanal. Potvrda nikada ne smije biti odgovor na isti email ili poziv broja navedenog u sumnjivoj poruci. Interni Signal, privatni mobilni broj direktora ili lični kontakt su jedine prihvatljive opcije.
3. Tehnički sloj odbrane: email autentifikacija i komunikacijski kanali
Procesni protokoli funkcionišu samo ako su podržani tehničkom infrastrukturom:
- DMARC + DKIM + SPF — osnova email autentifikacije. Bez ova tri zapisa ispravno konfigurisana na DNS-u, napadač može lako spoofovati direktorov email. DMARC politika
p=rejectblokira spoofovane poruke na nivou mail servera primatelja. - Interni komunikacijski kanal sa verifikacijom identiteta — Microsoft Teams, Cisco Webex ili Signal for Teams, gdje je svaki korisnik vezan za korporativni identitet i MFA. Finansijske instrukcije koje ne dolaze kroz ovaj kanal automatski su sumnjive.
- Dual-approval za visoke transakcije — ERP/finansijski sistem treba konfigurisati tako da svaki transfer iznad definisanog limita zahtijeva odobrenje dva ovlašćena lica, bez mogućnosti override-a putem telefonskog naloga.
4. Edukacija i promjena korporativne kulture
Finansijski i administrativni timovi moraju naučiti da pojmovi “HITNO”, “TAJNO” i “ODMAH” više ne predstavljaju naredbu za slijepo izvršavanje, već automatsku crvenu zastavicu koja zahtijeva dodatne provjere. Direktor koji razumije ovu prijetnju nikada neće zamjeriti zaposlenom što je stopirao hitnu uplatu radi sigurnosne verifikacije — naprotiv.
Tehnologija koja stoji iza ovih napada nije nauka budućnosti — dostupna je svakome sa internet konekcijom i kreditnom karticom. Kao IT profesionalci, ne možemo se osloniti isključivo na firewall i antivirus kada napadač zaobiđe cijeli tehnički perimetar i direktno cilja čovjeka. Jedina efikasna odbrana je kombinacija jasnih procedura, skepticizma ugrađenog u kulturu organizacije i tehničkih kontrola koje te procedure podupiru.
