Ako obstarávať umelú inteligenciu?
Práce na návrhu nariadenia Európskeho parlamentu a Rady EÚ o umelej inteligencii (ďalej len „AIA“) neustále pokračujú a v dohľadnej dobe sa očakáva aj jeho finalizácia. Výsledkom prác na návrhu nariadenia je aj návrh štandardných zmluvných doložiek pre obstarávanie umelej inteligencie verejnými organizáciami (pozn., v SR verejný obstarávateľ a obstarávateľ), ktoré boli vypracované v spolupráci s renomovanými odborníkmi a právnikmi v oblasti umelej inteligencie. Význam a záväznosť týchto štandardných zmluvných doložiek Vám priblížime na nasledujúcich riadkoch.
Vzhľadom na rozmanitosť možností využitia systémov umelej inteligencie od jednoduchého vyhľadávania informácií až po zložité vyhodnocovanie údajov, ktoré sa môže dotknúť základných ľudských práv, AIA zavádza klasifikáciu systémov umelej inteligencie. Pre účely štandardných zmluvných doložiek je potrebné rozlišovať medzi systémami umelej inteligencie, ktorých použitie vytvára vysoké riziko (čl. 6 ods. 1 a 2 AIA) a nízke alebo minimálne riziko.
Návrh štandardných zmluvných doložiek pre vysokorizikové systémy umelej inteligencie (ďalej aj „DVR“)[1] reflektujú požiadavky, ktoré AIA kladie pre túto kategóriu systémov umelej inteligencie, ako je napríklad zavedenie systému riadenia rizík (čl. 2 DVR), vedenie záznamov o prevádzke, tzv. „logov“ (čl. 5 DVR), prístup k technickej dokumentácii (čl. 4 DVR) alebo zabezpečenie ľudského dohľadu (čl. 7 DVR) a ďalšie. V momente, keď sa AIA začne uplatňovať, budú dodávatelia a používatelia – verejní obstarávatelia a obstarávatelia – vysokorizikových systémov umelej inteligencie povinní dodržiavať vyššie uvedené požiadavky, a tým pádom budú musieť reflektovať aj štandardné doložky pre vysokorizikové systému umelej inteligencie v jednotlivých obstarávateľských zmluvách.
V prípade nízkorizikových systémov umelej inteligencie AIA nezavádza špecifické požiadavky pre vývoj a prevádzku, tak ako to je pri vysokorizikových systémoch umelej inteligencie. Aj napriek tomu boli vypracované štandardné zmluvné doložky pre nízkorizikové systémy umelej inteligencie[2], ktorých použitie je odporúčané vzhľadom na zabezpečenie primeranej kontroly a transparentnosti používania týchto systémov umelej inteligencie. Zmluvné doložky pre nízkorizikové systémy umelej inteligencie sú v podstate zjednodušenou verziou zmluvných doložiek pre vysokorizikové systémy umelej inteligencie – neupravujú napríklad oprávnenie verejnej organizácie vykonať audit prevádzky systému umelej inteligencie alebo neobsahujú úpravu riadenia kvality.
Odkazy:
[1] Dostupné na: <https://public-buyers-community.ec.europa.eu/system/files/2023-10/AI_Procurement_Clauses_template_High_Risk%20EN.pdf>
[2] Dostupné na: < https://public-buyers-community.ec.europa.eu/system/files/2023-10/AI_Procurement_Clauses_Template_NON_HIGH_RISK_EN.pdf>
Zdroje:
- Návrh nariadenia Európskeho parlamentu a Rady (EÚ) o umelej inteligencii, dostupné na: https://eur-lex.europa.eu/legal-content/SK/TXT/?uri=CELEX%3A52021PC0206;
- Návrh štandardných zmluvných doložiek pre obstarávanie umelej inteligencie verejnými organizáciami (high-risk), verzia zo septembra 2023, dostupné na: EU model contractual AI clauses to pilot in procurements of AI | Public Buyers Community (europa.eu);
- Návrh štandardných zmluvných doložiek pre obstarávanie umelej inteligencie verejnými organizáciami (non high-risk), verzia zo septembra 2023, dostupné na: EU model contractual AI clauses to pilot in procurements of AI | Public Buyers Community (europa.eu);
- Supporting the responsible use of AI in European local authorities: contract clauses for the procurement of AI | Public Buyers Community (europa.eu)