Obrázek papeže v bílém kabátě je jen začátek. Umělá inteligence nás učí nevěřit všemu, co vidíme
Na internetu se objevil obrázek papeže Františka ve velkém bílém kabátě. Na sociálních sítích, jako jsou Twitter a Reddit, se stal virálním. Zmátl mnoho lidí, kteří si mysleli, že jde o reálnou fotografii. Ve skutečnosti se jedná pouze o velmi věrohodný výtvor umělé inteligence. „Budeme si muset zvyknout na to, že už neplatí žádné ‚viděl jsem to na vlastní oči‘, postupně zkrátka nebude možné věřit ničemu,“ říká odborník z ČVUT Jiří Matas.
Existuje způsob, kterým by mohl běžný člověk rozeznat fotografie vytvořené umělou inteligencí od reálných fotek?
Ne, podle mě neexistuje. Umělá inteligence funguje částečně tak, že se vývojáři ptají lidí, jestli něco dokážou rozpoznat, nebo ne. Pokud to poznají, tak se ten generátor upraví, aby to příště bylo věrohodné. To znamená, že to je taková hra o neustálém vylepšování. Něco umělá inteligence udělá špatně, lidé si toho všimnou a vývojáři upraví program. Ten se snaží vytvářet věci, které v realitě neexistují, ale jsou od reality nerozpoznatelné.
A myslím, že si na to musíme zvyknout. Už se nemůžeme spolehnout na žádné „viděl jsem to na vlastní oči“, postupně zkrátka nebude možné věřit ničemu.
Umělá inteligence zatkla Donalda Trumpa. ‚Bez digitální stopy nejde falešné fotky poznat,‘ říká expert
Číst článek
Známá jsou doporučení, že se fotografie občas dají rozeznat podle rukou, které umělá inteligence zatím neumí zpracovat tak dobře.
Ano, jsme strašně citliví na ruce, obličeje a podobné detaily. Třeba oko je velice těžké udělat hodně zblízka. Tak, aby všechny odlesky vypadaly realisticky. Takže vývojáři potom začnou pracovat na oku. Zkrátka se nasnímají oči a umělá inteligence se tím postupně vylepšuje.
Je jakoby živá, stále se doučuje. Není to tak, že by to jednou někdo naprogramoval, a když by se našla chyba, tak je konec. Vývoj jde tím směrem, že si myslím, že si uživatel si musí říct: „Nemůžu tomu věřit. Nic divného na tom sice nevidím, ale to vůbec neznamená, že to je reálný snímek.“
Můžete ve zkratce popsat, na jakém principu vznik falešného obrázku funguje? Je to tedy tak, že do databáze se nahrávají další a další snímky a umělá inteligence z nich pak podle požadavků vytvoří novou fotografii?
Přibližně řečeno. Dneska existují systémy, které vám třeba generují náhodné obličeje lidí v různém věku. Ale v tomto případě uživatel nástroji zadá, co přesně požaduje. Takže pokud chce papeže v kabátě, musí do systému napsat slova „papež“ a „kabát“. Ono to potom vysyntetizuje obrázek, který je podobný nějaké fotce, kde se vyskytoval papež, a zároveň fotce, na které je kabát.
Budoucnost AI může být i taková, že vliv lidí na rozhodování postupně klesne k nule, varuje odborník
Číst článek
Finální výsledky jsou pak takzvaně fotorealistické, což znamená, že se nedá poznat, že to není opravdová fotka.
Vyvíjí se v současné době nějaká aplikace, která by to dokázala rozeznat?
Ano, taková aplikace existuje a budou existovat další. Ale vlastně je to takové neustálé přetahování. Ve chvíli, kdy vznikne aplikace, tak vývojáři toho softwaru si řeknou: „Aha, když aplikace řekla, že tahle fotka je nereálná, tak já ji zkusím upravit tak, aby příště už řekla, že je reálná.“ Tomu se říká adverzální učení, jako učení s protivníkem.
Jediné, podle čeho se téměř vždycky pozná, že nejde o reálnou fotografii, je, že nemá správný šum, který je v kamerách. Umělá inteligence by totiž musela začít předstírat, že fotka byla vyfocena nějakým foťákem a to může být o hodně těžší. Ale to neplatí pro komprimovaný fotky, tam už je všechno ztracené..
Můžeme proti tomu v současnosti nějak bojovat nebo si fotografii alespoň dokázat ověřit?
V současnou chvíli ne. Ale myslím, že budou fotky, které už se budou mít nějakou nálepku říkající: já certifikuji, že to vzniklo v tomto foťáku, v tuto dobu.
Za diskriminaci a rasismus v umělé inteligenci můžou lidé a špatná vstupní data, vysvětluje expert
Číst článek
Myslíte, že do té doby, než budou fotky certifikované, jak odhadujete, můžeme očekávat nějakou vlnu vytváření fotek umělou inteligencí? Že jde v tuto chvíli o takový trend, vůči kterému se musíme snažit mít zvýšenou pozornost?
Ano, teď je to zkrátka něco nového. Dříve to lidem dalo strašnou práci, museli si hrát s grafickými nástroji a bylo to složité. Dneska řeknete „vygenerujte mi papeže s bílým kabátem“ a máte to hned. Můžete napsat klidně „já chci obrázek nahého papeže“ a něco z toho vypadne a docela možná to bude vypadat hodně realisticky. Jednoduchost toho generování povede k tomu, že spousta lidí si s tím bude hrát a občas vznikne něco, co může vypadat úplně realisticky, ale bude to dehonestující. Nebo naopak výborná reklamní fotka.
Budeme si muset dávat velký pozor na to, co je pravé a co není. Možná nastane situace, že bude trestné šířit fotku, která vznikla tímto způsobem a není to u ní jasně řečeno. U každé takové fotky bude třeba povinnost mít napsané, že byla vygenerována programem nebo modelem XY v tu a tu dobu, aby každý, kdo ji uvidí, věděl, že jde o produkt umělé inteligence.
