EU Artificial Intelligence Act (regulace umělé inteligence)

nepřijatelné riziko – systémy, které ohrožují bezpečnost, práva či důstojnost lidí; zcela zakázané (např. státní sociální skórování, prediktivní policejní profilování, real-time biometrické sledování ve veřejném prostoru)
- sociální skórování osob, prediktivní policejní profilování
- masový scraping obličejů, real-time rozpoznávání tváří ve veřejném prostoru
- emocionální rozpoznávání a biometrická kategorizace ve škole/práci
- systémy manipulující chováním či zneužívající zranitelnosti uživatelů

vysoké riziko – AI v kritické infrastruktuře, zdravotnictví, vzdělávání, zaměstnání, prosazování práva aj.; povinné řízení rizik, technická dokumentace, registrace v databázi EU a trvalý lidský dohled
- biometrická identifikace/kategorizace (mimo pouhé ověření totožnosti)
- AI v kritické infrastruktuře, dopravě, energetice
- vzdělávací přijímačky, proctoring, hodnocení studia
- nábor, hodnocení výkonu, propouštění; úvěrové a pojistné skórování
- prosazování práva (profilování, analýza důkazů, odhad recidivy)
- vízové/azylové řízení, hraniční kontroly, podpora soudních rozhodnutí

omezené riziko – systémy, které interagují s uživatelem nebo generují obsah (chatboti, deepfakes) a nejsou vysokorizikové; nutnost jasně informovat uživatele a označovat syntetická média
- chatboti, hlasoví asistenti (uživatel musí vědět, že mluví s AI)
- generátory textu, obrázků a deepfake videí (povinné označení)

minimální riziko – běžné aplikace typu spam-filtr či doporučovací algoritmy; právní povinnosti nejsou, lze dodržovat dobrovolné kodexy
- spam-filtry, doporučovače e-shopů/streamovacích služeb, AI v hráčských enginech; zmiňuje shrnutí Komise, v textu zákona pro ně nejsou zvláštní povinnosti

obrana a národní bezpečnost – systémy určené výlučně k vojenským či bezpečnostním úkolům členských států spadají z působnosti nařízení úplně ven

vědecký výzkum a vývoj – AI vyvíjená / užívaná pouze pro vědecké účely je vyňata, dokud není uvedena na trh ani nasazena v praxi

osobní, neprofesionální použití – když systém používá fyzická osoba jen pro vlastní potřebu, AI Act se neuplatní

free/open-source software – kód vydaný pod svobodnou licencí nepodléhá pravidlům, pokud nejde o zakázanou či vysokorizikovou funkci

real-time dálková biometrická identifikace na veřejnosti – obecně zakázaná, ale policejní orgán ji smí použít výjimečně:
- pátrání po pohřešovaných či obětech únosů
- odvrácení hrozícího teroristického útoku
- identifikace pachatele zvlášť závažného trestného činu
  vždy po předchozím soudním nebo nezávislém povolení a s přísnými limity

regulační sandboxy a reálné testování – články 57–60 dovolují dočasně zjemnit povinnosti (např. dokumentaci) v kontrolovaném prostředí pod dohledem příslušného úřadu

úlevy pro SME a start-upy – čl. 62 poskytuje zjednodušené šablony posouzení shody a nižší poplatky, aby menší firmy zvládly pravidla ekonomicky

Kromě finančních sankcí mohou orgány nařídit stažení systému z trhu či jeho pozastavení.

Zakázané praktiky (čl. 5) – pokuta až 35 mil. EUR nebo 7 % celosvětového ročního obratu, podle toho, co je vyšší.
Porušení povinností (vysoké riziko, GPAI, transparentnost atd.) – až 15 mil. EUR nebo 3 % obratu.
Nepravdivé či neúplné údaje úřadům – až 7,5 mil. EUR nebo 1 % obratu.
SME/start-upy – vždy se uplatní nižší z obou stropů (absolutní částka × procento).

rozsah a účel – kde a proč se AI smí používat
klasifikace rizik – podle AI Act (zakázané, vysoké, omezené, minimální)
zásady – etika, lidský dohled, transparentnost, ochrana osobních údajů, bezpečnost (railslibraries.org)
pravidla pro vstup dat – žádné citlivé ani smluvně chráněné údaje bez výslovného povolení. (railslibraries.org, AI Guardian)
role a odpovědnosti – AI/Privacy Officer, vývojáři, uživatelé, audit
procesy
- předimplementační posouzení dopadů (risk & impact assessment)
- evidence všech AI nástrojů v organizaci
- schvalování nákupů/externích API
- kontinuální monitoring výstupů a reportování incidentů
školení a osvěta – povinné kurzy AI gramotnosti, zejména pro uživatele vysokorizikových systémů
revize směrnice – minimálně 1× ročně nebo při změně legislativy

Praktický postup zavedení

Tipy na zdroje šablon

bezplatné vzory interních AI politik (např. Originality.ai, NTEN, PSMJ) (originality.ai, PSMJ NTEN)
finální text EU AI Act a implementační harmonogram