Umjetna inteligencija mijenja način na koji kriminalci proizvode, distribuiraju i monetiziraju seksualizirani dječji sadržaj, upozorava Globalna inicijativa protiv transnacionalnog organiziranog kriminala (GI-TOC).
Ističu da najveći izazov nije samo razvoj novih tehnologija, već činjenica da kriminalna upotreba AI alata napreduje puno brže od zakona, institucija i kapaciteta za istrage, izvještava BIRN BiH.
Prema Anese Agović Đozo, višoj analitičarki Globalne inicijative protiv transnacionalnog organiziranog kriminala i jednoj od autorica izvješća “Zlostavljanje u velikim razmjerima: Umjetna inteligencija preoblikuje seksualno iskorištavanje djece”, generativna umjetna inteligencija značajno je smanjila tehničke i financijske prepreke stvaranju uvjerljivih seksualiziranih prikaza djece.
-Danas se fotografije preuzete s društvenih mreža mogu brzo promijeniti, seksualizirati ili uključiti u potpuno sintetički sadržaj bez znanja djeteta – kaže Agović Đozo.
Dodaje da su postojeći zakoni i alati za detekciju uglavnom razvijeni u razdoblju kada je naglasak bio na fotografskom materijalu stvarnog zlostavljanja, dok smo danas suočeni s masovnom proizvodnjom sintetičkog i manipuliranog sadržaja.
Izvješća međunarodnih organizacija upozoravaju da je količina materijala o seksualnom zlostavljanju djece (CSAM) generiranog umjetnom inteligencijom naglo porasla posljednjih godina. Procjenjuje se da je najmanje 1,2 milijuna djece korištena slika za stvaranje takvog sadržaja.
Prema analizi GI-TOC-a, sintetički CSAM ne mora nužno zamijeniti stvarni materijal o zlostavljanju, ali može proširiti tržište, povećati potražnju, normalizirati seksualizaciju djece i olakšati prijelaz počinitelja na teže oblike nasilja.
Livia Wagner, voditeljica osoblja i tematska voditeljica za trgovinu ljudima u GI-TOC-u i jedna od autorica izvješća, objašnjava da se online seksualno iskorištavanje djece prije često povezivalo sa zatvorenim zajednicama u kojima su ključnu ulogu igrali pojedinci s određenim tehničkim znanjem. Međutim, posljednjih godina primjetan je trend industrijalizacije kriminalnih aktivnosti u raznim područjima kibernetičkog kriminala.
-Umjetna inteligencija dio je tog procesa jer omogućuje stvaranje ekosustava u kojem se različiti akteri mogu specijalizirati za različite funkcije unutar kriminalnog lanca – kaže Wagner.
Ova specijalizacija može uključivati stvaranje sadržaja, distribuciju, financijske usluge, odabir žrtava, regrutiranje djece, administraciju platformi i druge aktivnosti.
-To čini kriminalne mreže otpornijima, jer različiti sudionici preuzimaju različite uloge, a pojedinci postaju zamjenjivi – ističe Wagner.
Agović Đozo dodaje da zlouporabu AI alata i dalje mogu činiti pojedinci ili manje zatvorene online zajednice, jer generativni alati omogućuju proizvodnju sadržaja bez naprednog tehničkog znanja.
Istovremeno, kaže, primjetna je profesionalizacija i komercijalizacija ovog kriminalnog tržišta.
-Ne bih rekao da organizirane kriminalne skupine u potpunosti preuzimaju ovo područje od pojedinaca. Radije se radi o nastanku slojevitog tržišta na kojem pojedinačni počinitelji, tehnički posrednici, administratori platformi, pružatelji AI alata, distributeri i financijski posrednici mogu djelovati kao dio iste kriminalne ekonomije, čak i kada se ne poznaju – kaže Agović Đozo.
Promjena se ogleda u prelasku na modele kriminala kao usluge, gdje kriminalci više ne moraju sami razvijati tehnologiju niti posjedovati posebne vještine. Mogu koristiti gotove AI modele, chatbot usluge, aplikacije za manipulaciju fotografijama, platforme za pretplatu te infrastrukturu za distribuciju i naplatu.
Prema izvješću, umjetna inteligencija sada se koristi u različitim fazama seksualnog iskorištavanja djece, od stvaranja lažnih identiteta i automatiziranog regrutiranja žrtava do proizvodnje i distribucije sadržaja.
Međunarodne policijske operacije pokazale su razmjere problema. Operacija Cumberland, koju su 2025. godine vodile vlasti iz 19 zemalja, razotkrila je jednu od prvih transnacionalnih mreža za distribuciju CSAM sadržaja generiranog umjetnom inteligencijom, identificirajući gotovo 300 korisnika diljem svijeta. Operacija “Torch” u srpnju 2026. rezultirala je uhićenjima u nekoliko europskih zemalja.
Detektor je prethodno pisao o prvom uhićenju u Banjoj Luci zbog dječje pornografije generirane umjetnom inteligencijom.
Agović Đozo smatra da je jedna od najvećih pogrešaka tehnoloških tvrtki ta što se sigurnost djece često tretira kao dodatna funkcija, umjesto kao osnovno načelo razvoja proizvoda. Tvrtke, kaže, ulažu ogromna sredstva u brzinu, kvalitetu i dostupnost modela, dok se testiranje zlostavljanja, zaštita dječjih podataka i sprječavanje seksualiziranog sadržaja često razvijaju tek nakon što je šteta već učinjena.
Stoga smatra da se od tvrtki mora zahtijevati provođenje detaljnih procjena rizika prije objavljivanja novih AI sustava.
-Princip mora biti jednostavan i proizvod koji se može masovno zloupotrijebiti za seksualno iskorištavanje djece ne bi trebao biti dostupan bez odgovarajuće zaštite – naglašava Agović Đozo.
Europska unija poduzela je neke korake kroz regulaciju kako bi zabranila aplikacije za nudistiku i AI sustave koji stvaraju materijal za seksualno zlostavljanje djece ili prikazuju intimne dijelove tijela bez pristanka. Međutim, istraživanja upozoravaju da regulatorni sustavi često ne mogu pratiti brzinu tehnoloških promjena.
-Države reagiraju, ali još uvijek uglavnom reaktivno. Kriminalci mogu testirati i prilagoditi novi alat u roku od nekoliko dana, dok izmjene zakona, obuka tužitelja i policije, nabava forenzičkih alata i međunarodno usklađivanje često traju godinama – ističe sugovornik.
Tehnološki izazov
Kao najvažniju mjeru zaštite, Wagner izdvaja veću odgovornost tehnoloških tvrtki, ali naglašava da se problem ne smije promatrati isključivo kao tehnološki izazov. Ne postoji univerzalno rješenje, tvrdi, i potrebno je gledati na problem kroz okvir globalne odgovornosti.
Prema njezinim riječima, tvrtke koje razvijaju i primjenjuju napredne AI sustave moraju sustavno procjenjivati rizike za sigurnost djece, provoditi mjere za njihovo ublažavanje i dokazivati da su te mjere učinkovite.
-Govorimo o djeci koja su najranjivija na online iskorištavanje, ali su često jednako ranjiva i izvan digitalnog okruženja. To je pitanje razvoja, socijalne isključenosti, slabih sustava zaštite, nejednakosti spolova, ali i digitalne pismenosti – ističe.
Zaključuje da se tehnologija brzo razvija i teško je predvidjeti kako će izgledati u budućnosti, ali da se već sada može zaključiti da su postojeće društvene i ekonomske ranjivosti često odlučujući faktor od same tehnologije.
Također upozorava na činjenicu da kriminalne mreže djeluju globalno, dok regulacija, kazneni progon i pomoć žrtvama uglavnom ostaju u nadležnosti pojedinih država.
Stoga su, prema njezinim riječima, potrebni jači mehanizmi međunarodne razmjene podataka, usklađivanje pravnih standarda i veća uključenost tehnološkog i fintech sektora.
Detektor je prethodno pisao da je Europski parlament podržao prijedlog kojim bi aplikacije poput WhatsAppa, Signala i drugih usluga s end-to-end enkripcijom ostale izuzete od automatskog skeniranja privatnih poruka u potrazi za materijalima o seksualnom zlostavljanju djece.
Krajnju riječ sada ima Vijeće Europske unije, koje će u sljedeća tri mjeseca odlučiti hoće li prihvatiti taj pristup ili će uslijediti novi pregovori o pravilima koja pokušavaju uskladiti zaštitu djece i pravo građana na privatnu komunikaciju.
