# Sigurnosni aspekti AI tehnologija: rizici i zaštita

- Link: https://zadar.tv/sigurnosni-aspekti-ai-tehnologija/
- Published: 2026-06-21T21:00:00+02:00
- Author: Jadranko Knez

## Uvod

Umjetna inteligencija sve je prisutnija u poslovnim, javnim i privatnim sustavima,
od analize podataka do automatiziranog odlučivanja. Paralelno s rastom primjene 
raste i broj sigurnosnih pitanja koja nadilaze klasičnu informatičku sigurnost. 
AI sustavi donose nove vrste rizika jer se oslanjaju na velike količine podataka,
kompleksne modele i često netransparentne procese odlučivanja. Razumijevanje tih
rizika preduvjet je za odgovornu i sigurnu primjenu tehnologije.

Prema istraživanju Europske agencije za kibernetičku sigurnost, više od 60 % organizacija
koje koriste AI prijavilo je barem jedan sigurnosni incident povezan s modelima 
ili podacima. Ti incidenti uključuju curenje podataka, manipulaciju modelima i pogrešne
automatizirane odluke. Za razliku od tradicionalnih IT sustava, AI pogreške mogu
imati dugotrajnije posljedice jer se model uči na kompromitiranim podacima. To povećava
potrebu za preventivnim mjerama već u fazi dizajna.

Sigurnosni aspekti AI tehnologija ne odnose se samo na tehničke mjere, već i na 
organizacijske i pravne okvire. U praksi se često zanemaruje edukacija korisnika
i jasna podjela odgovornosti. Posljedica su situacije u kojima se ne zna tko je 
odgovoran za pogrešnu odluku algoritma. Ovaj članak daje strukturirani pregled ključnih
sigurnosnih pitanja i praktičnih rješenja.

## Ključne značajke

Jedna od ključnih značajki AI sustava je sposobnost samostalnog učenja na temelju
podataka. Upravo ta sposobnost predstavlja sigurnosni izazov jer kvaliteta i integritet
podataka izravno utječu na ponašanje modela. Ako napadač ubaci lažne ili pristrane
podatke, model može donositi netočne ili štetne odluke. Takvi napadi, poznati kao
data poisoning, zabilježeni su u sustavima za prepoznavanje slika i [financijsko bodovanje](https://zadar.tv/financijsko-ponasanje-generacije-z-digitalna-ekonomija/).

![Primjena umjetne inteligencije u poslovnim i javnim sustavima](https://zadar.tv/
wp-content/uploads/2026/03/sigurnosni-aspekti-ai-tehnologija-rizici-i-zastita-inline-
1-sigurnost-ai-gpt-1772548982.webp)

Druga važna značajka je automatizacija odlučivanja u realnom vremenu. AI se koristi
u kreditnim odlukama, detekciji prijevara i upravljanju prometom. Sigurnosni problem
nastaje kada sustav nema ugrađene mehanizme provjere i ljudskog nadzora. Statistike
pokazuju da sustavi s kombiniranim AI i ljudskim nadzorom smanjuju rizik pogrešnih
odluka za oko 35 %.

Treća značajka odnosi se na složenost modela, posebno kod dubokog učenja. Kompleksni
modeli često su „crne kutije“, što otežava otkrivanje sigurnosnih propusta. U praksi
to znači da organizacija ne može lako objasniti zašto je model donio određenu odluku.
Nedostatak objašnjivosti dodatno komplicira forenzičku analizu nakon incidenta.

## Detaljne specifikacije

Sigurnosne specifikacije AI sustava obuhvaćaju zaštitu podataka, modela i infrastrukture.
Zaštita podataka uključuje enkripciju u mirovanju i prijenosu te stroge kontrole
pristupa. Prema preporukama ISO/IEC 27001 standarda, osjetljivi skupovi podataka
trebaju imati višeslojnu autentifikaciju. U praksi to znači kombinaciju lozinki,
tokena i biometrije.

Zaštita samih modela podrazumijeva mjere protiv krađe i reverznog inženjeringa. 
Modeli trenirani na skupim ili osjetljivim podacima često predstavljaju intelektualno
vlasništvo. Napadi poput model extraction omogućuju napadaču da rekonstruira model
putem API poziva. Studije pokazuju da ograničavanje broja upita i uvođenje šuma 
u odgovore smanjuje uspješnost takvih napada za više od 40 %.

![Učenje AI sustava temeljeno na podacima i sigurnosni izazovi](https://zadar.tv/
wp-content/uploads/2026/03/sigurnosni-aspekti-ai-tehnologija-rizici-i-zastita-inline-
2-sigurnost-ai-gpt-1772549010.webp)

Infrastrukturna sigurnost odnosi se na poslužitelje, oblake i rubne uređaje na kojima
AI radi. Pogrešno konfigurirani cloud resursi čest su uzrok incidenata. Primjer 
iz 2023. pokazuje kako je javno dostupan spremnik podataka doveo do curenja milijuna
zapisa za treniranje modela. Redovite sigurnosne revizije i automatizirani alati
za nadzor ključni su dio specifikacija.

## Prednosti i nedostaci

Jedna od glavnih prednosti AI tehnologija u sigurnosnom kontekstu jest sposobnost
brze detekcije anomalija. AI može analizirati velike količine logova i prepoznati
obrasce napada brže od ljudi. U financijskom sektoru to je dovelo do smanjenja prijevara
u kartičnom poslovanju za oko 25 %. Automatizacija tako povećava ukupnu razinu sigurnosti.

S druge strane, AI uvodi nove ranjivosti koje ne postoje u klasičnim sustavima. 
Napadi na podatke za treniranje ili na same modele zahtijevaju specifična znanja,
ali su sve dostupniji. Nedostatak standardiziranih procedura dodatno povećava rizik.
Organizacije često podcjenjuju ove prijetnje jer se fokusiraju samo na funkcionalnost.

Prednost je i mogućnost simulacije sigurnosnih scenarija. AI može generirati testne
napade i procijeniti otpornost sustava. Međutim, isti alati mogu se zloupotrijebiti
za razvoj sofisticiranijih napada. Taj dualni karakter tehnologije zahtijeva pažljivo
upravljanje i jasne politike korištenja.

![Sigurnosne specifikacije AI sustava i zaštita podataka](https://zadar.tv/wp-content/
uploads/2026/03/sigurnosni-aspekti-ai-tehnologija-rizici-i-zastita-inline-3-sigurnost-
ai-gpt-1772549037.webp)

## Usporedba s konkurencijom

Usporedba sigurnosnih pristupa među AI rješenjima pokazuje značajne razlike. Veliki
pružatelji cloud AI usluga ulažu znatna sredstva u certifikate i automatizirane 
kontrole. Njihova prednost je skalabilnost i standardizacija procesa. Međutim, manja
rješenja često nude veću prilagodbu specifičnim sigurnosnim zahtjevima.

Open-source AI alati nude transparentnost koda, što olakšava sigurnosne provjere.
Ipak, odgovornost za pravilnu konfiguraciju u potpunosti je na korisniku. Statistike
pokazuju da je većina incidenata u open-source okruženjima posljedica ljudske pogreške.
Komercijalna rješenja češće uključuju podršku i nadzor.

U kontekstu regulative, europski pružatelji češće implementiraju načela privatnosti
po dizajnu. To je prednost u sektorima poput zdravstva i javne uprave. Američka 
rješenja često prednjače u inovacijama, ali ponekad zaostaju u usklađenosti s lokalnim
propisima. Odabir ovisi o prioritetima organizacije.

## Zaključak i preporuke

Sigurnosni aspekti AI tehnologija zahtijevaju holistički pristup koji uključuje 
tehnologiju, ljude i procese. Nije dovoljno osloniti se na postojeće IT sigurnosne
mjere. AI uvodi specifične rizike koji traže nove alate i znanja. Organizacije koje
to zanemare izlažu se dugoročnim posljedicama.

![Prednosti i nedostaci AI tehnologija u kibernetičkoj sigurnosti](https://zadar.
tv/wp-content/uploads/2026/03/sigurnosni-aspekti-ai-tehnologija-rizici-i-zastita-
inline-4-sigurnost-ai-gpt-1772549064.webp)

Praktična preporuka je uvođenje sigurnosti već u fazi razvoja modela. To uključuje
provjeru kvalitete podataka, testiranje otpornosti modela i dokumentiranje odluka.
Redovite edukacije zaposlenika smanjuju rizik pogrešne upotrebe. Prema dostupnim
podacima, organizacije s kontinuiranom edukacijom imaju 30 % manje incidenata.

Na kraju, važno je pratiti regulatorne smjernice i industrijske standarde. AI sigurnost
nije statična, već se razvija zajedno s tehnologijom. Sustavno praćenje trendova
i prilagodba politika ključni su za održivu i sigurnu primjenu umjetne inteligencije.

**Više ovakvih tema pročitajte u kategoriji: [Obrazovanje](https://zadar.tv/category/mozaik/obrazovanje/)**