Europoslanci dnes schválili nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci je podle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo Evropskou unii.
Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů budou podléhat silné regulaci.
Nová pravidla by měla zajistit, aby umělá inteligence byla důvěryhodná, bezpečná, respektovala základní práva EU a podporovala inovace. Pro novinku hlasovalo 523 europoslanců, proti jich bylo 46 a 49 se zdrželo.
Asi největší spory se v Evropském parlamentu vedly ohledně používání AI k biometrickému sledování v reálném čase, tedy o možnost využívání systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávali zneužití umělé inteligence v této oblasti autoritativními režimy.
Text nařízení, o kterém se dnes hlasovalo, je dojednaným kompromisem mezi vyjednavači Evropského parlamentu, Evropskou komisí a belgickým předsednictvím v Radě EU, které zastupuje jednotlivé členské státy. Právě Piráti s konečnou verzí spokojeni nebyli, a proto hlasovali proti aktu. Legislativa totiž podle nich legalizuje užití umělé inteligence k plošnému sledování lidí za pomoci biometrických kamer, které umí podle obličejových rysů rozpoznat identitu člověka. Podle pirátského europoslance Marcela Kolaji jde o velké zklamání a promarněnou příležitost jasně v celé Evropě odmítnout autoritářské praktiky, které známe z Číny či Ruska.
„Akt o umělé inteligenci měl mimo jiné zakázat ty nejvíce nebezpečné způsoby využití umělé inteligence a nastavit základní mantinely, za které technologii v zájmu lidských práv prostě pustit nemůžeme. Bohužel v případě biometrických kamer dělá pravý opak,“ upozornil Kolaja. „Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí, což vidíme třeba v dnešním Rusku. Tam jsou nainstalovány třeba v metru a zneužívány ke špehování těch, kdo si dovolí mít ‚nesprávný‘ názor,“ dodal.
Nařízení zkritizovala rovněž i česká europoslankyně Kateřina Konečná (KSČM). „Byl zde potenciál udělat něco pozitivního. To se však nestalo. Biometrické sledování současný text povoluje a zisky nejbohatších zvítězily nad bezpečností,“ uvedla při úterní rozpravě.
Mnozí europoslanci ale nový akt o umělé inteligenci ocenili. „Jsem hrdá na to, že se nám podařilo dosáhnout ochrany základních práv občanů, ale zároveň necháváme prostor pro inovace,“ uvedla dánská europoslankyně Karen Melchior z liberální frakce Renew. Jak uvedl německý europoslanec Sergey Lagodinsky z frakce Zelených, „je zapotřebí kontrolovat budoucí vývoj, než budoucí vývoj bude kontrolovat nás“. Dnes přijatá úprava je podle něj slabší, než jakou si představoval, nicméně „je to lepší než vůbec nic“. „V řadě ohledů jde o průkopnické nařízení,“ prohlásil Lagodinsky, který se narodil v Rusku, ale jeho rodina v 90. letech emigrovala do Německa.
Podle české europoslankyně Dity Charanzové z frakce Renew vytváří akt o umělé inteligenci „omezení pro vývoj, ale nesmí bránit ve vývoji“. Umělá inteligence je podle ní věcí budoucnosti. „Neměli bychom se tohoto nástroje vzdávat z důvodu strachu. U každé inovace existují rizika,“ uvedla v úterní rozpravě. Podle ní unijní pravidla nastavením mantinelů v AI dávají „jasné zadání vývojářům, aby cítili zodpovědnost za to, co vytvářejí“.
„Našli jsme správnou rovnováhu mezi ochranou a inovací? Máme dostatečné pojistky vůči rizikům pro občany? Ano. A měli bychom být hrdí, že ta odpověď je pozitivní,“ okomentoval akt jeden z jeho zpravodajů v EP, rumunský europoslanec Dragos Tudorache z frakce Renew. Využití biometrického sledování bylo v původní pozici Evropského parlamentu zcela zakázáno, při vyjednávání s členskými státy se ale do kompromisní verze aktu opět dostalo. Podle rumunského poslance jde ale o „využití velmi omezené a silně regulované“. (ČTK)
