Akt o umelej inteligencii BUDE

Výsledkom rokovania medzi Európskym parlamentom a Radou EÚ je kľúčová dohoda zachytená v podobe nariadenia - Aktu o umelej inteligencii (AIA), ktorý predstavuje zásadný posun v regulácii umelej inteligencie v rámci Európskej únie. Tento legislatívny míľnik je navrhnutý tak, aby podporoval vyvážený ekosystém, kde inovácie v oblasti umelej inteligencie prosperujú zároveň s ochranou základných práv, demokracie a environmentálnej udržateľnosti.

V jadre AIA je podrobne vymedzený rámec prísnych usmernení a zákazov, ktoré majú zmierniť potenciálne riziká spojené s rôznymi aplikáciami umelej inteligencie. AIA jasným spôsobom zakazuje určité aplikácie umelej inteligencie, ako napríklad vytváranie biometrických kategorizačných systémov založených na citlivých charakteristikách jednotlivcov či necielené získavanie údajov o tvárach na tvorbu rozpoznávacích databáz. AIA takisto obmedzuje aplikáciu umelej inteligencie na detekciu emócií v pracovných či vzdelávacích prostrediach, sociálne hodnotenie či manipuláciu ľudského správania. 

Okrem toho AIA zavádza ochranné opatrenia a diferencované výnimky pre používanie biometrických identifikačných systémov na verejných priestranstvách na účely presadzovania práva. Tieto výnimky, viazané na povolenie a prísne obmedzenia vymedzené konkrétnymi parametrami trestnej činnosti, odrážajú zámernú snahu o zosúladenie bezpečnostných potrieb so zachovaním súkromia a práv jednotlivcov.

AIA takisto stanovuje rozsiahle povinnosti pre systémy umelej inteligencie považované za vysoko rizikové, ktoré vyžadujú posúdenie dopadu na základné práva a poskytujú možnosť občanom vyjadriť námietky týkajúce sa systémov umelej inteligencie, ktoré zasahujú do ich práv. Tento rámec vytvorený AIA má posilniť zodpovednosť a transparentnosť v nasadení umelej inteligencie naprieč rôznymi sektormi, vrátane kritických oblastí ako je poisťovníctvo a bankovníctvo.

AIA reflektuje rýchlo sa vyvíjajúce prostredie umelej inteligencie a zavádza požiadavky na transparentnosť systémov umelej inteligencie na všeobecné účely, pričom nariaďuje dodržiavanie autorských práv. Pre vysoko rizikové modely umelej inteligencie so systémovými rizikami stanovuje AIA prísnejšie povinnosti vrátane komplexných posúdení, strategických zameraní rizík a detailných mechanizmov pre hlásenie závažných incidentov.

AIA tiež podporuje inovácie a konkurencieschopnosť, najmä pre malé a stredné podniky, prostredníctvom regulačných pieskovísk a testovacích prostredí. Tieto platformy umožňujú vývoj a testovanie inovatívnych riešení umelej inteligencie pred ich uvedením na trh, čím posilňujú diverzitu a spravodlivú súťaž v sektore umelej inteligencie.

Nesplnenie požiadaviek stanovených v AIA môže viesť k značne vysokým finančným pokutám, ktoré sú viazané na obrat podniku a slúžia na zabezpečenie dodržiavania týchto regulačných noriem.

AIA aktuálne čaká na formálne prijatie Európskym parlamentom a Radou EÚ, aby sa stal súčasťou právneho poriadku EÚ. Hlasovanie v parlamentných výboroch naznačuje, že tento komplexný akt o umelej inteligencii sa čoskoro stane záväznou legislatívou v rámci Európskej únie.


https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-...

https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-counc...

https://ec.europa.eu/commission/presscorner/detail/%20en/ip_23_6473