Zaštita djece online: Zabrana AI aplikacija hitno potrebna

Zaštita djece u digitalnom dobu: Potrebne hitne mjere protiv zlouporabe umjetne inteligencije

Udruga Pragma: Zakon o online sigurnosti djece mora biti prioritet

U svjetlu današnje odluke Vlade RH o izradi Nacionalnog plana za razvoj umjetne inteligencije do 2032. godine, udruga Pragma uputila je snažan apel za uspostavu zakonodavnog i društvenog okvira koji štiti djecu od digitalnih prijetnji uzrokovanih naprednim AI alatima.

Seksualno zlostavljanje djece uz pomoć umjetne inteligencije – nova realnost

Na temelju upozorenja britanskog Povjerenika za djecu, Pragma ističe kako umjetna inteligencija sve češće postaje alat za stvaranje seksualno eksplicitnih slika djece, posebice kroz aplikacije za tzv. nudifikaciju i deepfake sadržaj. Ovi alati omogućuju obradu stvarnih fotografija i njihovu transformaciju u pornografske prikaze, što dovodi do trajnih psiholoških i društvenih posljedica za djecu i mlade.

„Zastrašujući je porast seksualno eksplicitnih AI slika djece. Zakonodavac mora hitno reagirati jer se radi o ozbiljnom obliku nasilja“, poručuje Nedjeljko Marković, predsjednik Pragme.

Potrebne konkretne zakonske promjene

Pragma predlaže donošenje Zakona o online sigurnosti koji bi uključivao:

• Zabranu AI aplikacija za nudifikaciju i deepfake seksualizaciju djece.
• Kazneno-pravne sankcije za stvaranje, dijeljenje i posjedovanje AI alata u svrhu seksualnog iskorištavanja djece.
• Prepoznavanje deepfake sadržaja kao oblika seksualnog nasilja nad djecom.
• Kazne za internetske stranice koje omogućuju dijeljenje sadržaja pedofilima ili zanemaruju dobnu provjeru korisnika.

AI alati pretežno ciljani na djevojčice

Izvješća iz Velike Britanije upozoravaju na nerazmjerno ciljanje AI aplikacija na djevojčice i mlade žene, što dovodi do njihovog digitalnog povlačenja i autocenzure. Digitalni prostor tako postaje još jedno nesigurno mjesto za djecu i mlade, osobito žene.

Suradnja zajednice i država nužna za učinkovitu zaštitu

Pragma poziva na širu društvenu i političku suradnju, uključujući veće ovlasti policije, obavezne sigurnosne mjere za AI programere, te sustave za brzo uklanjanje ilegalnog sadržaja.

Primjeri iz prakse jasno pokazuju opasnost: u jednom mjesecu u Engleskoj otkriveno je 3.512 AI-generiranih slika seksualnog zlostavljanja djece, s porastom najtežih slučajeva od 10 % u odnosu na prethodnu godinu.

Hrvatska ima priliku postati predvodnica u zaštiti djece

Nacionalni plan za razvoj umjetne inteligencije prilika je da Hrvatska postavi etičke standarde i zaštitne mehanizme u digitalnom razvoju. Djeca moraju biti u središtu svakog strateškog dokumenta jer razvoj ne može dolaziti na štetu sigurnosti najranjivijih.

Za najnovije vijesti i informacije, posjetite zadar.tv.

Kontaktirajte nas na desk@zadar.tv.

Pratite naše sportske vijesti: Sportske vijesti

Otkrijte kulturne događaje: Kultura

Saznajte više o događanjima: Događanja

Pratite nas na društvenim mrežama: Facebook, Instagram, X, TikTok, Pinterest, Threads