Akt o AI: Európska regulácia umelej inteligencie
Akt o AI: Európska regulácia umelej inteligencie
Umelá inteligencia (AI) je jednou z najinovatívnejších technológií súčasnosti, ktorá má potenciál výrazne zlepšiť mnohé oblasti ľudského života. Jej schopnosť analyzovať obrovské množstvo dát, zjednodušiť rozhodovanie a automatizovať zložité úlohy v krátkom čase prináša obrovské výhody. Ako každá technológia, aj AI v nesprávnych rukách však môže predstavovať značné riziko. Škodlivo implementované systémy môžu podporiť diskrimináciu, narušiť súkromie alebo byť nástrojom na šírenie dezinformácií či neoprávnené sledovanie. Preto je dôležité, aby bol jej vývoj a používanie sprevádzané flexibilnou, no dôslednou reguláciou a etickými zásadami. Aby Európania mohli dôverovať tomu, čo umelá inteligencia ponúka, došlo na pôde inštitúcií EÚ k prijatiu takejto regulácie, známej ako Akt o umelej inteligencii. Ide o prvý zákon svojho druhu vo svete.
Akt harmonizuje legislatívu členských štátov v EÚ v oblasti využívania umelej inteligencie a stanovuje vývojárom a iným relevantným subjektom jasné požiadavky a povinnosti. Cieľom celoeurópskej regulácie je v prvom rade zabezpečiť, aby bola AI dôveryhodná a aby bola chránená bezpečnosť a základné práva fyzických a právnických osôb. Opatrenia však nie sú cielené iba na obmedzovanie, ale aj na podporu investícií a inovácií v oblasti umelej inteligencie v rámci celej EÚ. Aby sme mohli čo najlepšie využiť možnosti, ktoré umelá inteligencia poskytuje, potrebujeme nielen flexibilný legislatívny rámec zameraný na bezpečnosť a vytvorenie etických štandardov, ale aj podporu konkurencieschopnosti EÚ v oblasti digitálnych technológií. Regulácia a podpora rozvoja umelej inteligencie je súčasťou širšej stratégie EÚ v oblasti digitálnej transformácie.
Legislatívny rámec je založený na hodnotení rizikovosti systémov umelej inteligencie, pričom sú vymedzené štyri úrovne rizika podľa závažnosti – neprijateľné riziko, vysoké riziko, čiastočné/riziko transparentnosti a minimálne riziko.
Neprijateľné riziko
Do tejto kategórie patria systémy, ktoré sú považované za priamu hrozbu pre ľudí a budú zakázané. Sú to napríklad systémy umožňujúce:
– kognitívnu manipuláciu správania osôb alebo špecifických zraniteľných skupín, napríklad hlasom aktivované hračky, ktoré podporujú nebezpečné správanie detí,
– sociálne bodovanie pre klasifikáciu ľudí na základe správania, sociálno-ekonomického postavenia, osobných charakteristík a podobne,
– biometrická identifikácia a kategorizácia osôb a iné potencionálne nebezpečné funkcionality.
V niektorých prípadoch môžu byť povolené výnimky z uplatňovania zákazu, napríklad na objasňovanie a stíhanie závažných trestných činov.
Vysoké riziko
Ide o systémy, ktoré môžu mať negatívny vplyv na bezpečnosť alebo základné práva, a preto sú považované za vysoko rizikové. Delia sa do dvoch kategórií:
1. Systémy AI, ktoré sa používajú vo výrobkoch, na ktoré sa vzťahujú právne predpisy EÚ o bezpečnosti výrobkov (napríklad hračky, doprava, zdravotnícke pomôcky…).
2. Systémy umelej inteligencie spadajúce do ôsmich špecifických oblastí, ktoré budú musieť byť zaregistrované v databáze EÚ: biometrická identifikácia a kategorizácia fyzických osôb, riadenie a prevádzka kritickej infraštruktúry, vzdelávanie, zamestnanosť, prístup k súkromným a verejným službám, presadzovanie práva, kontrola hraníc a migrácia, výklad a uplatňovanie práva.
Čiastočné riziko/riziko transparentnosti
Táto oblasť súvisí s nedostatočnou transparentnosťou pri používaní umelej inteligencie. Akt zavádza osobité povinnosti na zlepšenie informovanosti používateľov a zvyšovania dôveryhodnosti AI. Poskytovatelia musia zabezpečiť, aby bol obsah vytvorený umelou inteligenciou identifikovateľný. To platí aj pre zvukový a obrazový obsah známy ako deepfake, ktorý musí byť explicitne označený.
Minimálne riziko
Patria sem aplikácie, ako sú videohry s podporou umelej inteligencie alebo spamové filtre. Do tejto kategórie patrí prevažná väčšina systémov umelej inteligencie, ktoré sa v súčasnosti používajú v EÚ. Akt o umelej inteligencii umožňuje neobmedzené využívanie takýchto systémov.
Návrh nariadenia o umelej inteligencii bol predložený Európskou komisiou ešte v roku 2021. V marci 2024 bola regulácia v podobe aktu prijatá Európskym parlamentom a neskôr aj Radou Európskej únie. Akt je účinným od augusta 2024, pričom však niektoré jeho časti budú uplatniteľné o niečo neskôr. Po šiestich mesiacoch by mal byť účinným zákaz systémov umelej inteligencie, ktoré predstavujú najvyššie, neprijateľné riziko. Kódexy postupov budú účinné po deviatich mesiacoch a pravidlá týkajúce sa systémov AI na všeobecné účely v oblasti transparentnosti po 12 mesiacoch od prijatia aktu. Vysoko rizikové AI systémy budú mať na splnenie požiadaviek viac času a regulácia v tejto oblasti bude účinná až po 36 mesiacoch.
Dôležitú úlohu pri vykonávaní aktu a podpore vývoja dôveryhodnej a bezpečnej umelej inteligencie zohráva Európsky úrad pre umelú inteligenciu (European AI Office). Tento orgán bol zriadený ako centrum odborných znalostí v oblasti umelej inteligencie v rámci Európskej komisie a je ústredným orgánom jednotného európskeho systému riadenia AI. Úrad plní podpornú rolu pre členské štáty v oblasti umelej inteligencie a presadzuje pravidlá pre jej modely určené na všeobecné účely. Tieto právomoci vyplývajú práve z aktu o umelej inteligencii, ktorý okrem iného udelil Európskej komisii právo vykonávať hodnotenia vybraných modelov umelej inteligencie, požadovať informácie a opatrenia od poskytovateľov modelov a v prípade potreby uplatňovať sankcie. V oblasti rozvoja participuje úrad napríklad na podpore inovačného balíka v oblasti umelej inteligencie. Okrem úradu bude výkon aktu podporený aj ďalšími podpornými orgánmi – panelom nezávislých expertov, radou pre AI so zástupcami členských štátov a poradným fórom.
Viac o tejto legislatíva nájdete na stránkach európskych inštitúcií:
Akt o umelej inteligencii: – Consilium
EU AI Act: first regulation on artificial intelligence | Topics | European Parliament
AI Act | Shaping Europe’s digital future
Tag: EÚ ,legislatíva ,umelá inteligencia