EU Akt o umetni inteligenci in prepovedane AI dejavnosti: Kaj morate vedeti

Kaj je AI Act in zakaj je pomemben?

Akt o umetni inteligenci je prvi obsežen pravni okvir za regulacijo umetne inteligence v svetu. Določa pravila za razvoj, uporabo in trženje AI sistemov v državah članicah EU in temelji na pristopu glede na stopnjo tveganja:

• Minimalno tveganje (npr. spam filtri),
• Omejeno tveganje (npr. chatbot brez razkritja, da ni človek),
• Visoko tveganje (npr. uporaba AI v zaposlovanju, izobraževanju, pravosodju)
• Prepovedane prakse, ki so neskladne z osnovnimi človekovimi pravicami.

Katere AI prakse so prepovedane?

1. Škodljiva manipulacija in zavajanje – člen 5(1)(a)

Prepovedani so AI sistemi, ki:

• uporabljajo podzavestna sporočila ali psihološki pritisk,
• zavajajo uporabnike glede svoje narave ali namena.

Primeri iz prakse:

• Chatboti, ki se predstavljajo kot ljudje, da bi vplivali na nakupne odločitve.
• AI oglasi, ki vključujejo skrita sporočila (v generativnih slikah).
• Osebni AI asistenti, ki priporočajo izdelke zaradi plačanih oglasov, brez razkritja

2. Škodljivo izkoriščanje ranljivosti – člen 5(1)(b)

Prepovedana je uporaba AI, ki izkorišča osebe zaradi starosti, invalidnosti ali ekonomske stiske.

Primeri iz prakse:

• AI igrače, ki otroke psihološko spodbujajo k impulzivnemu nakupovanju.
• Prevaranti, ki z uporabo AI kloniranja glasu prepričajo starejše v lažne finančne nakazile.
• AI sistemi za selekcijo življenjepisov, ki diskriminirajo kandidate z invalidnostjo.
• Dinamično določanje cen, kjer AI zazna finančno stisko uporabnika in mu prikaže višje cene (npr. zdravil).

3. Družbeno točkovanje – člen 5(1)(c)

Prepovedano je ocenjevanje ljudi na podlagi njihovega vedenja, družbenih interakcij ali osebnostnih lastnosti, če to vodi do neupravičene obravnave.

Primeri iz prakse:

• AI točkovanje zaposlenih glede na njihovo zasebno vedenje na družbenih omrežjih.
• Sistem za razvrščanje strank v bankah glede na etnični profil ali naslov bivanja.
• Primeri iz tujine (npr. Kitajska), kjer AI spremlja vedenje državljanov in omejuje njihove svoboščine.

4. Ocena tveganja za kazniva dejanja – člen 5(1)(d)

Prepovedana je uporaba AI za napovedovanje kaznivih dejanj zgolj na podlagi osebnostnih značilnosti ali profiliranja.

Primeri iz prakse:

• Sistem COMPAS v ZDA, ki je rasno pristransko napovedoval ponovitev kaznivih dejanj.
• PredPol, ki temelji na zgodovinskih podatkih in pretirano cilja na manjšine.
• Algoritmi, ki označujejo posameznike kot “tvegane” brez objektivnih dokazov.

5. Neselektivno zbiranje obrazov za baze podatkov – člen 5(1)(e)

Prepovedano je zbiranje slik obrazov iz interneta ali javnih virov brez dovoljenja za razvoj sistemov prepoznavanja obrazov.

Primeri iz prakse:

• Clearview AI: podjetje je zbralo milijarde obrazov s spletnih strani brez soglasja uporabnikov.
• Facebook (Meta): samodejno označevanje ljudi na slikah brez privolitve.
• Bunnings Avstralija: trgovine so uporabljale prepoznavo obrazov brez jasnega soglasja strank.
• GCHQ (VB): nadzorni program Optic Nerve, ki je zbiral slike prek spletnih kamer.

6. Prepoznavanje čustev – člen 5(1)(f)

Prepovedana je uporaba AI za zaznavanje čustev v šolah in na delovnem mestu, razen izjemoma.

Primeri iz prakse:

• Kitajska podjetja, ki z AI analizirajo počutje zaposlenih na delovnem mestu.
• Šole, ki spremljajo izraz obraza učencev za »čustveno analitiko«.
• AI intervju sistemi, ki ocenjuejo primernost kandidatov glede na obrazno mimiko.

7. Biometrična kategorizacija – člen 5(1)(g)

Prepovedano je kategoriziranje ljudi glede na biometrične podatke z namenom določanja njihove rase, spolne usmerjenosti, političnih stališč itd.

Primeri iz prakse:

• AI sistemi, ki določajo spolno usmerjenost na podlagi obraznih značilnosti.
• Amazon Rekognition – slabša točnost prepoznavanja pri temnopoltih ženskah.

8. Biometrična identifikacija na daljavo v realnem času – člen 5(1)(h)

Prepovedana je uporaba AI za prepoznavanje ljudi v realnem času na javnih mestih brez sodne odredbe.

Primeri iz prakse:

• Izrael: Red Wolf sistem za nadzor palestinskega prebivalstva.
• Javne kamere, ki sledijo osebam brez njihove vednosti.
• Uporaba sistemov za množično sledenje protestnikom.

Kaj pomeni to za podjetja?

Če vaše podjetje uporablja AI sisteme – tudi če gre za zunanje ponudnike – ste odgovorni za njihovo skladnost z AI Aktom. Posebej pozorni bodite na:

• pregled AI rešitev v uporabi (tudi v HR, marketingu, prodaji),
• pridobivanje soglasij in jasne obveščenosti uporabnikov,
• izogibanje praksam, ki temeljijo na pristranskih podatkih.

EU Akt o umetni inteligenci ne prepoveduje napredka – nasprotno, omogoča ga na odgovoren način. S tem ko postavlja meje najbolj tveganim praksam, odpira prostor za razvoj zaupanja vredne umetne inteligence, ki spoštuje človekove pravice, dostojanstvo in enakost.

Če ste podjetje, ki že uporablja AI ali to načrtuje – je zdaj pravi čas za pregled svojih sistemov in postopkov.