Ako obstarávať umelú inteligenciu?

Práce na návrhu nariadenia Európskeho parlamentu a Rady EÚ o umelej inteligencii (ďalej len „AIA“) neustále pokračujú a v dohľadnej dobe sa očakáva aj jeho finalizácia. Výsledkom prác na návrhu nariadenia je aj návrh štandardných zmluvných doložiek pre obstarávanie umelej inteligencie verejnými organizáciami (pozn., v SR verejný obstarávateľ a obstarávateľ), ktoré boli vypracované v spolupráci s renomovanými odborníkmi a právnikmi v oblasti umelej inteligencie. Význam a záväznosť týchto štandardných zmluvných doložiek Vám priblížime na nasledujúcich riadkoch.

Vzhľadom na rozmanitosť možností využitia systémov umelej inteligencie od jednoduchého vyhľadávania informácií až po zložité vyhodnocovanie údajov, ktoré sa môže dotknúť základných ľudských práv, AIA zavádza klasifikáciu systémov umelej inteligencie. Pre účely štandardných zmluvných doložiek je potrebné rozlišovať medzi systémami umelej inteligencie, ktorých použitie vytvára vysoké riziko (čl. 6 ods. 1 a 2 AIA) a nízke alebo minimálne riziko.

Návrh štandardných zmluvných doložiek pre vysokorizikové systémy umelej inteligencie (ďalej aj „DVR“)[1] reflektujú požiadavky, ktoré AIA kladie pre túto kategóriu systémov umelej inteligencie, ako je napríklad zavedenie systému riadenia rizík (čl. 2 DVR), vedenie záznamov o prevádzke, tzv. „logov“ (čl. 5 DVR), prístup k technickej dokumentácii (čl. 4 DVR) alebo zabezpečenie ľudského dohľadu (čl. 7 DVR) a ďalšie. V momente, keď sa AIA začne uplatňovať, budú dodávatelia a používatelia – verejní obstarávatelia a obstarávatelia – vysokorizikových systémov umelej inteligencie povinní dodržiavať vyššie uvedené požiadavky, a tým pádom budú musieť reflektovať aj štandardné doložky pre vysokorizikové systému umelej inteligencie v jednotlivých obstarávateľských zmluvách.

V prípade nízkorizikových systémov umelej inteligencie AIA nezavádza špecifické požiadavky pre vývoj a prevádzku, tak ako to je pri vysokorizikových systémoch umelej inteligencie. Aj napriek tomu boli vypracované štandardné zmluvné doložky pre nízkorizikové systémy umelej inteligencie[2], ktorých použitie je odporúčané vzhľadom na zabezpečenie primeranej kontroly a transparentnosti používania týchto systémov umelej inteligencie. Zmluvné doložky pre nízkorizikové systémy umelej inteligencie sú v podstate zjednodušenou verziou zmluvných doložiek pre vysokorizikové systémy umelej inteligencie – neupravujú napríklad oprávnenie verejnej organizácie vykonať audit prevádzky systému umelej inteligencie alebo neobsahujú úpravu riadenia kvality.

Na záver uvádzame a zdôrazňujeme, že jednotlivé návrhy štandardných zmluvných doložiek sú určené pre verejné organizácie, ktoré obstarávajú systémy umelej inteligencie, ako aj pre ich dodávateľov. Vzhľadom k tomu, že AIA je ešte stále v štádiu rokovaní a príprav, je použitie týchto doložiek založené zatiaľ na čisto dobrovoľnej báze. Rovnako nie je možné vylúčiť, že zmluvné doložky ešte budú v budúcnosti revidované.

Odkazy:

[1] Dostupné na: <https://public-buyers-community.ec.europa.eu/system/files/2023-10/AI_Procurement_Clauses_template_High_Risk%20EN.pdf>

[2] Dostupné na: < https://public-buyers-community.ec.europa.eu/system/files/2023-10/AI_Procurement_Clauses_Template_NON_HIGH_RISK_EN.pdf>

Zdroje: