EDPB a EDPS chcú zákaz použitia umelej inteligencie na automatické rozpoznávanie ľudských čŕt



European data protection board a European data protection supervisor prijali spoločné stanovisko týkajúce sa Návrhu Európskej komisie o pravidlách regulujúcich umelú inteligenciu (Artificial Intelligence - AI).


V stanovisku uvádzajú, že ak berieme do úvahy extrémne vysoké riziká, ktoré predstavuje biometrická identifikácia jednotlivcov na diaľku vo verejne prístupných miestach, je potrebné žiadať všeobecný zákaz akéhokoľvek použitia AI na automatické rozpoznávanie tvári, chôdze, odtlačkov prstov, DNA, hlasu, stláčania klávesov a iných biometrických alebo behaviorálnych signálov v akomkoľvek kontexte. Taktiež odporúčajú zákaz AI systémov, ktoré používajú biometriu na kategorizovanie jednotlivcov do skupín na základe etnického pôvodu, pohlavia, politickej alebo sexuálnej orientácie alebo iných dôvodov, na základe ktorých je podľa článku 21 Charty základných práv diskriminácia zakázaná. Ďalej sa EDPB a EDPS domnievajú, že použitie AI na vyvodzovanie emócií fyzických osôb je nežiadúce a malo by byť zakázané (s výnimkou veľmi špecifických prípadov, ako napr. niektoré zdravotné účely, keď je dôležité rozpoznanie emócií pacienta) a použitie AI na akýkoľvek typ sociálneho bodovania (social scoring) by malo byť zakázané tiež.


Andrea Jelinek, predsedníčka EDPB a Wojciech Wiewiórowski z EDPS povedali: „Nasadenie vzdialenej biometrickej identifikácie na verejne prístupné priestory znamená koniec anonymity na týchto miestach. Aplikácie ako je napr. rozpoznávanie tváre naživo (live facial recognition), zasahujú do základných práv a slobôd do tej miery, že spochybňujú podstatu týchto práv a slobôd. To si vyžaduje uplatnenie preventívneho prístupu. Všeobecný zákaz používania rozpoznávanie tváre vo verejne prístupných priestoroch je nevyhnutným východiskovým bodom, ak si chceme zachovať naše slobody a vytvoriť právny rámec pre AI, ktorý bude zameraný na človeka (human-centric). Navrhované nariadenie by malo tiež zakázať akýkoľvek typ používania umelej inteligencie na sociálne bodovanie, pretože je v rozpore so základnými hodnotami EÚ a môže viesť k diskriminácii.“.

Zdroj: EDPB & EDPS call for ban on use of AI for automated recognition of human features in publicly accessible spaces, and some other uses of AI that can lead to unfair discrimination