Akt o umetni inteligenci je prva celovita evropska uredba o umetni inteligenci, ki določa enotna pravila za razvoj, dajanje na trg in uporabo sistemov umetne inteligence v EU. Večina določil akta, ki ga je EU sprejela leta 2024, bo v Sloveniji pričela veljati avgusta letos. Izvedbeni zakon, ki ga je sprejela Slovenija, predvideva tudi globe, ki lahko za velike gospodarske družbe znašajo do 450 tisoč evrov, pri posebej hudih kršitvah pa so lahko kazni še bistveno višje.

Več informacij najdete tukaj.

Za dodatna pojasnila se lahko obrnete tudi na Odvetniško pisarno Toš in partnerji na mail info@tos.si.

Akt med drugim prepoveduje uporabo UI pri škodljivih praksah, kot so manipulacija, izkoriščanje ranljivih skupin, socialno točkovanje in nekatere oblike ocenjevanja tveganja posameznika. Za sisteme UI z visokim tveganjem akt uveljavlja stroge zahteve, zlasti glede kakovosti podatkov, dokumentacije, nadzora, varnosti in spremljanja skladnosti.

Na določenih področjih bo potrebno uporabnike obvestiti, da komunicirajo z umetno inteligenco, na primer pri klepetalnih botih.

Uredba ureja tudi širše modele umetne inteligence, da se zagotovi večja odgovornost in sledljivost, hkrati pa želi spodbujati inovacije in varovati zdravje, varnost ter temeljne pravice ljudi. 

Kaj to pomeni za podjetja?

Poleg strogih pravil za razvijalce akt določa tudi številne omejitve za podjetja, ki uporabljajo umetno inteligenco. Ta morajo paziti predvsem na to, katero orodje uporabljajo, katere podatke vanj vnašajo in ali je uporaba skladna z Aktom o umetni inteligenci ter GDPR. Največje tveganje je pri občutljivih podatkih, avtomatiziranih odločitvah in uporabi sistemov umetne inteligence z višjim tveganjem.

Ključna tveganja:

•    Občutljivi podatki in poslovne skrivnosti. V UI orodja podjetja ne smejo nenadzorovano vnašati zaupnih informacij, ker lahko pride do odtekanja podatkov v platformo ali v model.
•    Osebni podatki. Če UI obdeluje osebne podatke, mora podjetje upoštevati GDPR in jasno določiti vloge upravljalca ter obdelovalca.
•    Napačna uporaba sistemov. Podjetje mora preveriti, ali uporaba spada med prepovedane ali visokotvegane primere po Aktu o umetni inteligenci.
•    Preglednost do uporabnikov. Ljudje morajo biti obveščeni, kadar komunicirajo z UI ali kadar je vsebina ustvarjena z umetno inteligenco.
•    Avtomatizirane odločitve. Posebno previdnost zahtevajo sistemi, ki vplivajo na zaposlitev, kreditiranje, storitve ali druge pravice ljudi.

Pomembno je, da podjetja:

•    Sprejmejo notranja pravila za uporabo UI in določijo, kdo sme katera orodja uporabljati.
•    Pred uporabo preverijo pogoje ponudnika, zlasti ali se podatki uporabljajo za učenje modela.
•    Uvedejo tehnične in organizacijske ukrepe za varnost, najmanjši obseg podatkov in nadzor dostopa.
•    Usposobijo zaposlene, da razumejo tveganja, omejitve in pravilno uporabo UI.
•    Za visoko tvegane ali pomembne sisteme dokumentirajo oceno tveganja, nadzor in spremljanje po uvedbi.

Pred vsako uporabo naj se tako podjetje vpraša: ali sistem uporablja osebne ali zaupne podatke, ali lahko vpliva na pravice ljudi, ali lahko pride do diskriminacije in ali je jasno, kdo za rezultat odgovarja. Če je odgovor na katero od teh vprašanj da, mora biti nadzor precej strožji.

Ključni poudarki za podjetja:
•  Prepovedano je vnašanje skrivnosti, osebnih podatkov ali zaupnih dokumentov brez jasne podlage.
•    Preverite pogodbe in nastavitve UI orodij.
•    Označite uporabo UI, kjer je to potrebno.
•    Testirajte pristranskost in napake.
•    Usposobite zaposlene.