Agenti umetne inteligence so dobili nalogo in izrecno navodilo, po kateri poti je ne smejo opraviti. Šli so po prepovedani poti, za seboj pobrisali sled in to prikrivali pet mesecev. »Niso bili trenirani, da razmišljajo kot ljudje. Potem pa se mi prepoznamo,« o tem pravi dr. Tanja Pavleska.

Dan pred snemanjem je slovenska vlada zvišala stopnjo nevarnosti kibernetskega napada: ranljivost je zadevala več kot 70 % programske opreme in evropske vlade so ugašale svoje spletne strani. Našla jo je umetna inteligenca. Izkoristil jo je človek.

V tej epizodi SBC podkasta gostimo:
• dr. Tanjo Pavlesko — raziskovalko na Institutu Jožef Stefan, 17 let v kibernetski varnosti, partnerica projekta Vantage za avtomatizacijo varnostno-operativnega centra
• polkovnika Gregorja Viranta — načelnika sektorja za strateško planiranje vojaške  politike na Ministrstvu za obrambo RS, z ozadjem v letalstvu

Skupaj analiziramo, kaj se v resnici že dogaja:
– zakaj je nerentabilno dron za 20.000 dolarjev sestreliti z raketo za 2 milijona
– kako je umetna inteligenca izbrala in vodila napad na tisoč ciljev naenkrat in kje je v tej verigi nastala napaka
– kaj je shadow AI in zakaj podjetje, ki ne ve, katere modele uporabljajo zaposleni, ne more nastaviti svoje varnostne politike
– kako ustaviš tank, ne da bi izstrelil en sam naboj
– zakaj je danes pet domen vojskovanja in zakaj se največ dogaja v sivi coni pod  pragom vojne
– ali se umetna inteligenca lahko brani sama in zakaj varnostni operaterji tega  zaenkrat nočejo dovoliti

Če vodite podjetje, je to epizoda o tveganju, ki ga vaša bilanca še ne pozna: o tem, kdo v vašem sistemu uporablja modele, ki jih niste odobrili, in o tem, kaj se zgodi, ko ima napadalec tisoč agentov, vi pa enega operaterja.

POJMI IZ POGOVORA Shadow AI — uporaba orodij umetne inteligence v podjetju, ki je zaposleni ne prijavijo; podjetje zato ne more nastaviti varnostne politike. COTS (commercial off-the-shelf) — običajna komercialna oprema, ki jo z malo znanja predelaš v vojaško. Zanka OODA (zaznaj–razumi–odloči–ukrepaj) — cikel odločanja; kdor ga ima krajšega in natančnejšega od nasprotnika, ima prednost. Nekinetični učinek — onemogočenje cilja brez fizičnega uničenja, na primer z motenjem signala GPS. Siva cona — dogajanje pod pragom razglašene vojne, kjer ločnica med mirom in vojno ni več jasna. SOC (Security Operations Center) — varnostno-operativni center, ki zaznava in razrešuje vdore. ASAT — protisatelitsko orožje; satelit lahko drugega uniči, premakne v nižjo orbito ali mu le onemogoči delovanje. Human-machine pairing — delitev dela, pri kateri nevarno opravi stroj, človek pa obdrži odločitev.