EU zakon o umetni inteligenci (AI Act): kaj pomeni za slovenska podjetja
Evropski zakon o umetni inteligenci (AI Act, Uredba EU 2024/1689) razvršča uporabo AI po tveganju. Za večino slovenskih malih in srednjih podjetij, ki AI uporabljajo za pisanje, povzemanje, podporo strankam ali avtomatizacijo, so glavne obveznosti tri: zaposleni morajo biti ustrezno usposobljeni (AI pismenost), ljudje morajo vedeti, ko komunicirajo z AI, in AI se ne sme uporabljati za prepovedane namene.
Ta vodnik je splošen pregled, ne pravni nasvet. Za konkretno presojo se obrnite na pravnika. Roki se lahko spremenijo, zato jih preverite v uradnem besedilu na EUR-Lex.
Štiri ravni tveganja
| Raven | Primeri | Kaj velja |
|---|---|---|
| Nesprejemljivo tveganje | Družbeno točkovanje, manipulacija, ki izkorišča ranljivost, prepoznavanje čustev na delovnem mestu (z izjemami) | Prepovedano |
| Visoko tveganje | Izbor kandidatov, ocenjevanje zaposlenih, kreditna sposobnost, dostop do izobraževanja, kritična infrastruktura | Stroge zahteve za ponudnike in uvajalce |
| Omejeno tveganje | Chatboti, generirane slike, video in zvok | Obveznosti preglednosti |
| Minimalno tveganje | Filtri za spam, pisanje besedil, priporočila, večina poslovnih orodij | Brez posebnih obveznosti |
Ponudnik ali uvajalec
Zakon loči med ponudniki, ki AI sistem razvijejo ali dajo na trg pod svojim imenom, in uvajalci, ki AI uporabljajo pri svojem delu. Večina slovenskih podjetij je uvajalec. Če pa podjetje zgradi AI sistem in ga ponuja strankam, je lahko ponudnik, kar prinaša več obveznosti.
Kaj velja za skoraj vsa podjetja
AI pismenost (člen 4)
Od 2. februarja 2025 morajo ponudniki in uvajalci sprejeti ukrepe, da imajo zaposleni, ki delajo z AI, zadostno raven znanja. Zakon ne predpisuje izpita ali certifikata. Podrobneje v vodniku AI pismenost zaposlenih.
Preglednost (člen 50)
- Ljudje morajo biti obveščeni, ko komunicirajo s sistemom AI, na primer s chatbotom, razen če je to očitno.
- Umetno ustvarjene ali spremenjene slike, video in zvok, ki bi lahko zavajali (deepfake), morajo biti označeni.
- Besedila, objavljena z namenom obveščanja javnosti, ki jih je ustvaril AI, je treba označiti, razen če jih je pregledal človek, ki zanje uredniško odgovarja.
Prepovedane prakse
Prepovedano je na primer prepoznavanje čustev zaposlenih na delovnem mestu (razen iz zdravstvenih ali varnostnih razlogov) in manipulativne tehnike, ki ljudem škodijo.
Roki na kratko
- 1. avgust 2024: uredba začne veljati.
- 2. februar 2025: prepovedane prakse in AI pismenost.
- 2. avgust 2025: pravila za modele za splošne namene (GPAI) in upravljanje.
- 2. avgust 2026: večina ostalih pravil, vključno s preglednostjo. Za nekatere visoko tvegane sisteme je EU predlagala poznejše roke.
Kaj narediti zdaj: kratek seznam
- Popišite, katera AI orodja v podjetju uporabljate in za kaj.
- Preverite, ali je katera uporaba na področju zaposlovanja, ocenjevanja ljudi ali kreditov.
- Pripravite kratka interna pravila in usposabljanje za zaposlene.
- Na spletni strani jasno označite chatbota in AI ustvarjene vsebine, kjer je potrebno.
- Uskladite z GDPR: glej ChatGPT in GDPR.
Ko gradimo rešitve za stranke, so preglednost in človekov nadzor del zasnove, ne naknadni dodatek.
Pogosta vprašanja
Ali AI Act velja tudi za podjetje, ki AI samo uporablja?
Da. Zakon loči med ponudniki (ki sisteme razvijajo ali dajejo na trg) in uvajalci (ki jih uporabljajo pri svojem delu). Uvajalci imajo manj obveznosti, a nekatere veljajo za vse, na primer skrb za AI pismenost zaposlenih in obveščanje ljudi, ko komunicirajo z AI.
Kdaj začne veljati AI Act?
Uredba je začela veljati 1. avgusta 2024, obveznosti pa se uvajajo postopoma. Prepovedane prakse in obveznost AI pismenosti veljajo od 2. februarja 2025, pravila za modele za splošne namene od 2. avgusta 2025, večina ostalih pravil pa od avgusta 2026 in pozneje. EU je predlagala zamik nekaterih rokov za visoko tvegane sisteme, zato aktualne datume preverite na uradnih straneh.
Kakšne so kazni?
Najvišje kazni veljajo za prepovedane prakse in znašajo do 35 milijonov evrov ali 7 odstotkov svetovnega letnega prometa. Za mala in srednja podjetja uredba predvideva nižje zgornje meje. V praksi je za večino malih podjetij pomembneje, da ne uporabljajo AI za prepovedane namene in da ustrezno obveščajo ljudi.
Ali je uporaba ChatGPT za pisanje e-pošte visoko tvegana?
Ne. Pisanje besedil, povzemanje in podobne naloge spadajo med uporabe z majhnim tveganjem. Visoko tvegane so na primer uporabe pri zaposlovanju, ocenjevanju zaposlenih, dostopu do izobraževanja, kreditni sposobnosti in nekaterih javnih storitvah.
Preberite tudi
Opišite ga. Povemo vam, ali ga znamo rešiti.
Ni prodajnega klica in ni obveznosti. Vsak opis preberemo sami. Če je problem nekaj, kar znamo dobro narediti, se vam oglasimo s predlogom. Če ni, vam to povemo in po možnosti priporočimo, kdo bi lahko pomagal.