Článek
Snímky vytvořené pomocí umělé inteligence (AI) vyvolaly na internetu zmatek už několikrát. Lidé na sociálních sítích totiž mnohdy nejsou schopni rozlišit, zda jde o reálné fotky, či falešné snímky. To se v minulosti potvrdilo třeba v případě, kdy na sítích koloval obrázek papeže ve stylovém bílém kabátku od Balenciagy nebo když se šířil falešný snímek ze zatýkání bývalého amerického prezidenta Donalda Trumpa.
Společnost Meta se proto rozhodla, že uživatelům sociálních sítí ulehčí orientaci a obrázky vygenerované pomocí AI označí speciálním štítkem, informuje NPR. Uživatelé Instagramu, Facebooku nebo novější sítě Threads by tak na první pohled poznali, že sdílené příspěvky byly vytvořeny sofistikovanými nástroji umělé inteligence – ta totiž zvládne vedle obrázků vygenerovat i přesvědčivá videa, zvukové záznamy nebo texty.
Společnost Meta, která vlastní všechny tři platformy, sdělila, že s označováním příspěvků začne v nadcházejících měsících. Technologické společnosti totiž v posledních měsících čelí obrovskému tlaku, aby se zabývaly i negativními aspekty revoluční technologie – konkrétně schopností uvádět lidi v omyl, překrucovat realitu a případně i manipulovat veřejným míněním.
Výše zmíněné obavy se navíc stupňují v době, kdy miliony lidí po celém světě letos hlasují ve významných volbách. Odborníci a regulační orgány varují, že deepfakes – digitálně zmanipulovaná média – by mohla být použita k posílení snah o klamání, odrazování a manipulaci voličů.
Meta a další společnosti v oboru pracují na vývoji neviditelných značek, včetně vodoznaků, které označují, že obsah byl vytvořen umělou inteligencí. Společnost Meta uvedla, že tyto značky začne používat k tomu, aby na své aplikace aplikovala štítky v několika jazycích, takže uživatelé jejích platforem budou vědět, zda to, co vidí, je skutečné, nebo falešné.
Značky se budou vztahovat na obrázky od společností Google, Microsoft, OpenAI, Adobe, Midjourney a Shutterstock - ale až poté, co tyto společnosti začnou do obrázků vytvořených jejich softwarem vkládat vodoznaky a další technická metadata. To ale znamená, že ne všechny obrázky projdou „štítkováním“. Společnost Meta nicméně informovala, že pracuje i na nástrojích pro automatickou detekci obsahu vytvořeného pomocí AI.
Společnost zároveň spoléhá na spolupráci ze strany veřejnosti. Meta sdělila, že začne od uživatelů vyžadovat, aby u materiálu vytvořeného pomocí AI uvedli, že jde o „fotorealistické video nebo realisticky znějící zvuk, který byl vytvořen nebo upraven digitálně“. Společnost navíc upozornila, že může penalizovat účty, které tak neučiní.
„Pokud zjistíme, že digitálně vytvořený nebo pozměněný obrazový, video nebo zvukový obsah představuje obzvláště vysoké riziko podstatného klamání veřejnosti v důležité záležitosti, můžeme v případě potřeby přidat výraznější označení, aby lidé měli více informací a souvislostí,“ uvedl Nick Clegg, prezident společnosti Meta pro globální záležitosti.
Také platformy jako TikTok a YouTube vyžadují, aby uživatelé zveřejňovali, pokud zveřejňují realistický obsah vytvořený umělou inteligencí. Loni na podzim společnost TikTok informovala, že začne testovat automatické používání štítků na obsah, u kterého zjistí, že byl vytvořen nebo upraven pomocí umělé inteligence.
