Česko žádá odklad pravidel pro AI. Nestíháme, říká zmocněnec Kavalírek. Jourová: Normy jsou potřeba
Zavádění prvních pravidel pro umělou inteligenci v EU začíná drhnout. Česko minulý týden navrhlo dvouletý odklad pro části, které nezačaly platit. „Potřebujeme mít právní jistotu,“ nesouhlasí prorektorka Univerzity Karlovy a bývalá eurokomisařka Věra Jourová. „Potřebujeme čas, abychom byli schopní stihnout přípravu,“ říká pro Český rozhlas Plus vládní zmocněnec pro umělou inteligenci a náměstek ministra obchodu Jan Kavalírek (TOP 09).
Česko vyzvalo nejen k odložení částí Aktu o umělé inteligenci, ale ke zjednodušení celého nařízení. Proč je to podle vás potřeba?
Jan Kavalírek: My jsme tuto výzvu po dohodě s ministrem (průmyslu a obchodu Lukášem Vlčkem, STAN) zformulovali a na Radě Evropy v pátek aktivně přednesli s tím, že to plyne z diskusí s AI ekosystémem u nás v České republice a z nutnosti správně se připravit.
Česko vyzvalo k odkladu některých částí evropského Aktu o umělé inteligenci. Je to potřeba? Debatují Věra Jourová a Jan Kavalírek (TOP 09)
AI ekosystém, to znamená technologické firmy...
Kavalírek: Ano, přesně tak. Je to i akademická obec, zkrátka celý ten ekosystém umělé inteligence, který v České republice máme.
Co se týká toho zjednodušení, tak my vůbec neříkáme, že Akt o umělé inteligenci jako celek je špatně. Samozřejmě je nutná kontrola AI systémů, to je v pořádku, co se týká koncepce nařízení i co se týká risk based přístupu (zvážení rizik – pozn. red.).
Ty části, na které my cílíme a u kterých bychom byli rádi, aby byly zařazeny do digitálního omnibusu pro možnost prověření případných zjednodušení, jsou oblasti papírové byrokracie a požadavků, které jsou kladeny zejména na vysoce rizikové AI systémy.
Jak vnímáte volání AI ekosystému po odkladu? Je potřeba odklad a zjednodušení?
Věra Jourová: Já jsem moc ráda, že pan náměstek potvrdil, že Akt o digitálních službách potřebujeme. A potřebujeme ho hlavně v těch částech, kde jde o vysoce rizikové systémy, o velké generativní modely a o technologie, které by skutečně mohly ohrozit lidi. I v tom smyslu, že by třeba nebyly dost robustní a byly náchylné ke kybernetickým útokům a podobně.
Mohou se AI modely bránit vypnutí? Koubský: Nemají vůli. Když jim logika nestačí, chovají se náhodně
Číst článek
Jestli je potřeba zjednodušení? Je to možné. Slyšela jsem eurokomisařku Hennu Virkkunemovou, že o zjednodušení hovoří. Bude se o tom muset jednat. Je to pro mě úplně nová informace a upřímně jsem byla překvapená.
Když se to vyjednávalo a já jsem seděla za Evropskou komisi u vyjednávacího stolu, tak tehdy tyto námitky nezaznívaly. Ze strany členských států tam zněly úplně jiné námitky, možná se k nim dostaneme.
A ještě prosím reakci na ten odklad, ten jste neokomentovala. Odklad o dva roky.
Jourová: Bude záležet na vyjednávání a na tom, jestli Evropská komise bude schopná připravit návrh, který oddělí tu konkrétní část z AI Aktu. Předpokládám, že je to ta část, která se týká členských států a certifikačních úřadů.
Jde o to, jestli tam budou silné argumenty a jestli bude možné legislativně a technicky tuto část vyjmout a posunout tak, že se začne aplikovat později. Nebylo by to poprvé a asi ani naposled.
Co se tedy změnilo? Vyjednávání o AI aktu vrcholilo na jaře loňského roku, potom se v létě přistoupilo ke schválení. Věra Jourová, která tehdy také za Evropskou komisi vyjednávala, říká, že v té době nezaznívaly hlasy z AI ekosystému, o kterých jste teď mluvil, pane Kavalírku.
Kavalírek: Já samozřejmě neumím posoudit, jak se to tehdy vyjednávalo, já jsem u toho nebyl. Já jsem na ministerstvu průmyslu od ledna tohoto roku a od té doby se s panem ministrem Lukášem Vlčkem (STAN) velmi intenzivně této agendě věnujeme, protože je pro nás opravdu zásadní a chceme maximálně využít potenciál umělé inteligence. A s tím souvisí právě i ta legislativa.
23:39
Co nám trvalo dny, teď s umělou inteligencí zvládneme za desetinu vteřiny, říká uznávaný vědec
Číst článek
Nicméně umím si představit, že tehdy byla úplně jiná geopolitická situace, než je dnes. Naším cílem v tuto chvíli je, aby ten ekosystém měl dostatek času na to, aby se na nové požadavky připravil.
V Aktu jsou určitě části, se kterými naprosto souhlasíme a které vůbec nezpochybňujeme. Například článek pět, kde jsou zakázané klamavé praktiky, jako manipulativní umělá inteligence, sociální scoring, umělá inteligence, která by měla odhalovat vaše náboženská nebo politická přesvědčení. To je část, která už je v tuto chvíli účinná a je to naprosto správně. Myslím si, že na tom panuje široká shoda.
Ale potom je tam třeba účinnost vysoce rizikových systémů, která klade na výrobce poměrně zásadní požadavky, co se týká dokumentace. Jak dokumentace systémové, tak té technické složky. To by mělo nabýt účinnost v srpnu příštího roku.
Aby firmy a zavádějící subjekty vůbec mohly prokázat shodu s těmito požadavky, které jsou opravdu velmi robustní, tak k tomu musí mít také k dispozici doprovodnou legislativu. A ta v tuto chvíli chybí.
Byla zmíněna změna geopolitická situace. Máme tu například amerického prezidenta Donalda Trumpa. Myslíte si, že by bylo záhodno reagovat na jeho administrativu a na americký přístup k nulovému omezování AI a digitálního světa?
Jourová: Změny ve Spojených státech jsou relevantní v mnoha ohledech, ale zrovna u Aktu o digitálních službách tu relevanci moc nevidím. Amerika si jde svou cestou. My jsme vyjednávali ještě s prezidentem Joem Bidenem, který vydal prezidentský výnos o bezpečné AI. Prezident Trump to zrušil.
To ale neznamená, že americké firmy, které chtějí podnikat a používat AI, nebo prodávat AI k užití v Evropě, nebudou muset dodržovat náš Akt.
Chat GPT je pacifista, Gemini doporučuje eskalaci. Vědci hledají využití umělé inteligence v diplomacii
Číst článek
Já slyším z digitálního ekosystému, že je zaprvé potřeba mít jedna pravidla pro jeden kontinent. Pokud se hovoří o tom, že Evropa zaostává v inovacích, tak je to proto, že je rozsekaná do 27 různých systémů a tato fragmentace nám bohužel nesvědčí.
A za druhé je potřeba mít právní jistotu pro firmy i pro ty uživatele. Pokud odklad nějakým způsobem tu právní jistotu oddálí, tak to nebude dobře.
Ale jak jdou tyto termíny dohromady s časovou osou, která byla narýsovaná, když byl přijat AI Akt?
Kavalírek: My pořád nemáme ty standardy a pořád nemáme ty implementační akty, podle kterých se bude posuzovat shoda některých AI systémů. V příloze jedna a v příloze tři máme uvedeny konkrétní systémy, který budou potřebovat projít procesem posouzení shody.
Ten proces poměrně dlouho trvá a musí být zajištěn certifikační autoritou. Právě to chceme, abychom měli certifikační autoritu v České republice.
Protože v minulosti u jiných legislativ byla tato část často podceněna a potom musely české firmy jezdit do zahraničí, kde to trvalo výrazně déle a samozřejmě to bylo výrazně dražší.
Ale i ten certifikační orgán musí najmout lidi, musí se na to připravit, musí mít prováděcí předpisy. A my už víme, že to není reálné stihnout. Podpora inovací je právě v tom, že dáme ekosystému dostatek času na to, aby si tu shodu zajistil.
Hrozí, že se implementace celého AI Aktu zpozdí natolik, že už nebude relevantní? A jak ho ovlivní změna vládního kabinetu po nadcházejících volbách v Česku? Poslechněte si celý pořad Pro a proti Českého rozhlasu Plus výše.
