Zpět

Regulace umělé inteligence (AI) aneb co nám přináší Návrh nařízení Evropské unie o umělé inteligenci (AI)

20. září 2021

Evropská komise vyslyšela dlouholeté volání odborníků po harmonizované regulaci umělé inteligence (AI) a na konci dubna 2021 představila svůj návrh nařízení, který je v odborných kruzích známý také jako Akt o umělé inteligenci. Tento akt si klade za cíl přinést do světa umělé inteligence komplexní právní úpravu reflektující její rychle postupující vývoj, ale také minimalizaci rizik s ní spojených a poskytnutí jistého právního rámce ochraně základních lidských práv.

Hned na začátku návrhu Komise nabízí definici umělé inteligence, která nám vlastně říká, na jaký druh technologií by potenciální nová úprava měla dopadnout. Najít ideální způsob jejího právního definování byl obzvlášť nelehký úkol, protože v praxi se za umělou inteligenci označuje velké množství technologií. V této oblasti lze také pravděpodobně v nejbližších letech očekávat další rozvoj, což je samozřejmě třeba právní úpravou reflektovat nejlépe už dnes. Komise proto napevno stanovila, že pod systémy umělé inteligence bude spadat pouze software a nikoliv hardware. Tento software musí být vyvinut za pomoci jedné či více technik, které Komise specifikuje v Příloze I nařízení. Tato příloha by pak měla představovat jakýsi dynamický prvek, který by mělo být možné průběžně měnit a reflektovat tím potřeby budoucí praxe. Konečně se má jednat o systémy, které mohou generovat výstupy jako je obsah, predikce, doporučení nebo rozhodnutí ovlivňující prostředí, s nimiž komunikují.

Tyto systémy jsou dále nařízením rozděleny do několika kategorií podle míry rizika, které s sebou jejich užívání může přinášet. První kategorií tvoří tzv. systémy s nepřijatelným rizikem. Sem spadají technologie, které využívají např. podprahových manipulativních technik nebo zranitelnosti určité skupiny osob s cílem ovlivnit jejich chování takovým způsobem, který by jim potenciálně mohl způsobit fyzickou nebo psychickou újmu. Takové postupy jsou až na výjimky zakázané. Další z kategorií tvoří tzv. systémy s vysokým rizikem, které se dostávají do centra zájmu harmonizace. Jedná se zejména o systémy, které jsou využívané v zaměstnávání, vzdělávání či odborné přípravě, ale také třeba ve věcech řízení migrace. Tyto systémy sice nařízením zakázány nebudou, nicméně pro jejich navrhování, vývoj či samotné používání jsou stanoveny přísné požadavky. Důraz je kladen zejména na způsob sběru dat a jejich správu, snižování rizik, transparentní technickou dokumentaci a důkladnou informovanost koncových uživatelů.

I přes veškerou snahu tvůrců a obsáhlost Aktu jako takového zaznívají ze strany odborné veřejnosti kritická stanoviska poukazující na přílišnou neurčitost některých pojmů, která s sebou přináší hromadu otázek namísto odpovědí.  Návrh je nicméně zatím na samém počátku poměrně dlouhé cesty k jeho schválení, takže je možné, že bude ještě několikrát doplňován a měněn.