Sudjelovanje na nedavnoj konferenciji Cyber Security 2026 u organizaciji Poslovnog dnevnika još je jednom potvrdilo da se nalazimo u trenutku u kojem umjetna inteligencija (AI) prestaje biti samo obećavajuća tehnologija i postaje temelj našeg poslovanja, ali i naše obrane.

Riko Luša, voditelj Odjela za kibernetičku sigurnost u KONČAR – Digitalu, sudjelovao je na uvodnom panelu pod nazivom „Upravljanje rizikom u AI eri – tko snosi odgovornost?“, koji je istraživao implikacije EU AI Acta, suverenitet podataka i operativne rizike. Tijekom rasprave Luša je AI definirao primarno kao moćan alat čija korisnost u potpunosti ovisi o načinu implementacije. Kao stručnjaci u području kibernetičke sigurnosti, vidimo kako AI donosi nevjerojatne benefite: on omogućuje organizacijama da predviđaju potrebe tržišta, optimiziraju resurse i personaliziraju usluge na načine koji su ranije bili nezamislivi. Unutar naših proizvoda i usluga, AI djeluje kao iznimno sposoban suradnik koji u sekundi može analizirati tisuće stranica dokumenata ili prepoznati složene uzorke u podacima, čime tvrtke postaju brže, konkurentnije i inovativnije.

Međutim, taj isti napredak donosi i drugu stranu medalje. Kibernetički napadi više nemaju ljudsko lice, oni su postali automatizirani i odvijaju se brzinom stroja. Današnji napadači koriste agentske sustave koji samostalno uče iz neuspjeha, zaobilaze tradicionalne sigurnosne kontrole i djeluju bez ljudske intervencije. Činjenica da strojevi danas organiziraju čak 80 do 90 posto napada stavlja organizacije pred velik izazov: kako se obraniti od sustava koji nikada ne spava i stalno se usavršava?

Upravo zato ključnu ulogu igraju nadzor i regulativa. Umjetna inteligencija je, slikovito rečeno, kompetentan, ali nepouzdan suradnik koji ponekad može „halucinirati“ ili donositi pristrane odluke. Nastavno na to, od presudne je važnosti ugraditi snažne sigurnosne mehanizme u rad AI modela, pratiti njihove performanse u stvarnom vremenu i osigurati da iza svake važne odluke stoji ime i prezime čovjeka. EU AI Act ovdje ne nastupa kao prepreka, već kao neophodan putokaz koji nalaže ljudski nadzor, tehničku robusnost i jasnu odgovornost, dok naš nacionalni Zakon o kibernetičkoj sigurnosti (ZKS) naglašava važnost dijeljenja informacija o prijetnjama i dokazive otpornosti sustava.

Iako su izazovi veliki, zaključak je pozitivan. Tehnologija nam daje alate za napredak, a regulativa nam pruža okvir u kojem taj napredak ostaje siguran. Primjenom najboljih sigurnosnih praksi, poput redovitih provjera, zaštite lanca opskrbe i neprestanog obrazovanja uprava i zaposlenika, možemo graditi povjerenje i osigurati kontinuitet poslovanja. 

Napadi se možda događaju brzinom stroja, ali uz ispravno vođenje, naša odgovornost i stručnost ostaju brži i snažniji.