Nové európske pravidlá pre umelú inteligenciu


Európska komisia zverejnila návrh pravidiel, ktorých cieľom je spraviť z Európy globálne centrum pre dôveryhodnú umelú inteligenciu (AI). Komisia zverejnila prvý právny rámec pre AI a Koordinačný plán pre AI. Mali by garantovať bezpečnosť a ochranu základných práv občanov a podnikateľov spolu s posilňovaním AI, investícii a inovácií.


Návrh predstavuje špecifický európsky prístup k dôveryhodnej AI a je založený na riziku, ktoré sa bude deliť na:

  • neakceptovateľné,

  • vysoké,

  • limitované a

  • minimálne.

Neakceptovateľné riziko budú prestavovať AI systémy, ktoré sú hrozbou pre bezpečnosť, život a práva obyvateľov. Tieto systémy budú zakázané.


Vysoké riziko predstavujú AI systémy, ktoré spadajú do oblastí ako sú napr. kritická infraštruktúra, vzdelávanie, bezpečnosť produktov, zamestnanosť, vynucovanie práva, atď. Systémy s vysokým rizikom budú podliehať prísnej regulácii predtým ako budú uvedené na trh: ich riziko bude posudzované, budú musieť mať datasety vysokej kvality, logovať svoju činnosť, viesť detailnú dokumentáciu, používateľom poskytovať adekvátne informácie, budú musieť podliehať vhodnému ľudskému dohľadu v záujme minimalizácie rizika a disponovať vysokou úrovňou robustnosti, bezpečnosti a presnosti.


V prípade limitovaného rizika budú systémy podliehať povinnosti transparentnosti vo vzťahu k používateľom. Veľká väčšina systémov patrí do kategórie s minimálnym rizikom. Návrh nariadenia neupravuje špecifické právne povinnosti vo vzťahu k systémom s minimálnym rizikom.


Zároveň bol aktualizovaný aj Koordinačný plán pre AI, ktorý s použitím financovania cez Digital Europe, Horizon Europe a programov Kohéznej politiky bude zameraný na vytvorenie podmienok na rozvoj AI, podporu excelentnosti v AI, na zabezpečenie toho, aby AI fungovala pre ľudí a budovanie strategických partnerstiev.


Zmení sa aj regulácia tzv. strojových produktov, ktoré zahŕňajú široký rozsah spotrebiteľských a profesionálnych produktov od robotov po kosačky na trávu, 3D tlačiarne, stavebnícke stroje atď. Smernica o strojoch bude nahradená novým Nariadením o strojoch, ktoré by malo stanoviť zdravotné a bezpečnostné požiadavky a zároveň podporovať inovácie.


Ak sa Európsky parlament a jednotlivé členské štáty stotožnia s návrhmi Európskej komisie a príjmu ich riadnym legislatívnym postupom, pravidlá budú priamo uplatniteľné v celej Európskej únii.

Zdroj: Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence