AI Act: Nova pravila transparentnosti i sigurnosti umjetne inteligencije stupaju na snagu

Europska komisija, putem svog Ureda za AI, zajedno s nacionalnim tijelima, počinje s provedbom Zakona o umjetnoj inteligenciji, poznatijeg kao AI Act, od 2. kolovoza 2026. Istog datuma stupaju na snagu i nova pravila transparentnosti, zahtijevajući od određenih AI sustava da obavijeste korisnike kada komuniciraju s umjetnom inteligencijom te kada je sadržaj generiran ili izmijenjen pomoću nje.

Nova pravila transparentnosti umjetne inteligencije

Od 2. kolovoza 2026. godine, chatbotovi i drugi interaktivni AI sustavi morat će obavijestiti korisnike da komuniciraju s umjetnom inteligencijom, a ne s čovjekom. Deepfakes, odnosno slike, videozapisi ili audiozapisi koji su uređeni ili generirani pomoću AI-a, morat će biti jasno označeni.

Sadržaj generiran ili izmijenjen pomoću AI-a također će morati nositi strojno čitljive oznake kako bi se lakše detektirao. Ove mjere imaju za cilj smanjiti obmanjivanje i manipulaciju te pomoći ljudima u donošenju informiranih odluka, istovremeno dajući tvrtkama jasnije obveze i praktičan način za dokazivanje usklađenosti. Komisija je već objavila popis od više od 180 organizacija koje su potpisale Kodeks prakse o transparentnosti AI generiranog sadržaja.

Provedba AI Acta i podjela odgovornosti

Ured za AI sada može provoditi pravila AI Acta za pružatelje modela opće namjene umjetne inteligencije (GPAI), koji mogu obavljati mnoge različite zadatke i koristiti se u širokom rasponu alata i usluga. Pravila također pokrivaju najnaprednije GPAI modele koji mogu predstavljati sistemske rizike, obvezujući njihove pružatelje na ispunjavanje dodatnih obveza kako bi se riješili rizici velikih razmjera, uključujući kemijske, biološke, radiološke i nuklearne incidente, gubitak kontrole, kibernetičke napade, štetnu manipulaciju i prijetnje temeljnim pravima.

Obveze pružatelja GPAI modela

• Dokumentiranje određenih informacija i njihovo pružanje nadležnim tijelima ili pružateljima usluga niže razine.
• Uspostavljanje politike autorskih prava.
• Objavljivanje dovoljno detaljnog sažetka sadržaja korištenog za obuku njihovih modela.

Zabranjene AI prakse

Provedba također počinje za transparentnost i zabranjene AI prakse, koje zabranjuju posebno štetne sustave. To uključuje sustave koji manipuliraju ljudima, iskorištavaju ranjivosti na štetan način ili nepravedno ocjenjuju ljude na način koji ugrožava njihova prava.

Podjela odgovornosti za provedbu

Odgovornost za provedbu pravila transparentnosti i zabranjenih praksi dijeli se između tri tijela. Ured za AI provodi pravila za AI sustave koje nudi isti pružatelj kao i temeljni GPAI model, te za sustave integrirane u vrlo velike online platforme ili tražilice. Nacionalna nadležna tijela provode pravila za ostale AI sustave, dok Europski nadzornik za zaštitu podataka provodi pravila za AI sustave koje koriste institucije, tijela i agencije Europske unije. Učinkovita provedba ovisit će i o tome da države članice osiguraju adekvatno imenovanje i resursiranje nacionalnih nadležnih tijela.

Znanstvena podrška i alati za praćenje

Ured za AI i nacionalna nadležna tijela imat će podršku Znanstvenog panela, savjetodavnog tijela sastavljenog od 60 neovisnih AI stručnjaka, čiji je prvi sastanak nedavno održan. Profesor Alessandro Abate s Odsjeka za informatiku Sveučilišta u Oxfordu imenovan je glavnim znanstvenim savjetnikom Ureda za AI i podržavat će znanstveni rad Ureda na modelima opće namjene umjetne inteligencije, uključujući inovacije, usvajanje, testiranje i evaluaciju modela.

Alati za praćenje i prijavu nepravilnosti

Kako bi podržao provedbu, Ured za AI pokrenuo je nekoliko alata za pojedince i tvrtke:

• Alat za pritužbe: Za fizičke i pravne osobe za prijavu navodnih kršenja AI Acta od strane pružatelja AI sustava pod nadzorom Ureda za AI.
• Alat za zviždače: Za osobe koje rade s pružateljima AI sustava ili GPAI modela za sigurno prijavljivanje mogućih kršenja Zakona.
• Namjenski kanal: Za pružatelje usluga niže razine koji grade AI sustave na modelima opće namjene i žele prijaviti navodna kršenja od strane pružatelja tih modela.

Ured za AI će povjerljivo tretirati informacije primljene putem ovih alata.

Sljedeći koraci i odgođene primjene

AI Omnibus je odgodio primjenu pravila o visokorizičnim AI sustavima do 2. prosinca 2027. godine, kao i pravila za visokorizične AI sustave integrirane u regulirane proizvode do 2. kolovoza 2028. Međutim, uvode se nove zabrane za AI sustave koji generiraju seksualno eksplicitan sadržaj bez pristanka i materijale zlouporabe djece, a ta će se pravila primjenjivati od 2. prosinca 2026. godine.

Često postavljana pitanja (FAQ)