Bing a Google kritizovaly za zobrazování AI deepfake porno prominentně ve vyhledávání

Vyhledávače Bing, Google a DuckDuckGo jsou pod palbou kvůli umístění nekonsensuální falešné pornografie pomocí umělé inteligence na začátek některých konkrétních výsledků vyhledávání. Stalo se tak poté, co byl publikován článek od NBC News, který zdůrazňuje určité obavy související s dostupností pornografie řízené umělou inteligencí.

Explicitní deepfake videa jsou vytvářena použitím originálního pornografického materiálu a záměnou tváře herce nebo (nejčastěji) herečky za pravděpodobnost konkrétní skutečné osoby – například celebrity. Přepnutí provádí umělá inteligence automaticky, uživatel vytvářející falešné snímky stačí nakrmit AI fotografiemi oběti.

Podle testů provedených společností NBC News na vzorku 36 celebrit – pomocí kombinace jména a slova „deepfakes“ – Bing a Google téměř ve všech případech ukázaly nekonsensuální hluboce falešná videa a obrázky v horní části výsledků vyhledávání.

Google vrátil 34 takových nejlepších výsledků, zatímco Bing vrátil 35. Zatímco NBC News zmínilo, že DuckDuckGo má podobné problémy, nespecifikovalo rozsah problému.

NBC News si také stěžuje, že relevantní články o problematice nekonsensuální hluboce falešné pornografie se zobrazují až za nevhodným obsahem v horní části, při vyhledávání termínu „falešné akty“ .

Stojí za zmínku, že NBC News přiznalo, že nejprve vypnulo bezpečnostní funkce Bing a Google, které chrání uživatele před zobrazováním explicitního obsahu. Oba prohlížeče mají ve výchozím nastavení zapnutou základní úroveň ochrany, přičemž nabízejí vyšší úroveň ochrany, kterou lze aktivovat ručně.

Ve skutečnosti však odkazuje na webové stránky s nevhodným obsahem nebo nástroji pro vytváření AI deepfakes.

Google ve výchozím nastavení zobrazuje explicitní obrázky, ale obrázky jsou rozmazané a celé se zobrazí až poté, co je uživatel upozorněn na explicitní povahu obrázku. Uživatel musí dobrovolně stisknout tlačítko, aby viděl původní obrázek.

Zároveň je fér říci, že snadná dostupnost pornografie řízené umělou inteligencí je relevantní problém a že každý, kdo hledá tento typ obsahu, pravděpodobně vypne vestavěné ochranné funkce. Nekonsensuální explicitní hluboce falešný obsah je svou povahou nezákonný, a proto spadá mezi typ obsahu, který by Microsoft, Google a další měli řešit.

Nejjednodušší cestou, nebo prvním, možná dočasným krokem před zavedením pokročilejších technologických opatření, by mohlo být potlačení webů známých zveřejňováním tohoto typu obsahu z výsledků vyhledávání nebo jejich úplný zákaz.

To by mohlo výrazně snížit v současnosti škodlivou povahu výsledků vyhledávání, protože jak uvádí NBC News, více než polovina nejlepších výsledků v jejich testech tvořily odkazy na populární hluboce falešné webové stránky nebo na konkurenci.

Microsoft byla jediná společnost, která nereagovala na žádost NBC News o komentář. Mluvčí DuckDuckGo uvedl, že jeho primárním zdrojem webových odkazů a výsledků obrázků je Bing. DuckDuckGo také nabízí způsob, jak odeslat požadavek týkající se ochrany osobních údajů, například žádost o odstranění konkrétního obsahu z vyhledávání.

Google nabízí podobnou možnost pro deepfake oběti, ale NBC News tvrdí – s odkazem na odborníky a aktivisty – že to nestačí. Navíc to může způsobit další újmu obětem, které mají zasílat konkrétní adresy URL s citlivým obsahem ke kontrole.

Na druhou stranu Google zavedl alespoň některá technologická opatření. Pro NBC News tvrdila, že automaticky vyhledává duplicitní obsah, aby odstranila znovu nahrané snímky, které již byly označeny.

Toto je jen jeden z mnoha negativních příkladů používání umělé inteligence pro neetické nebo škodlivé účely. Konkrétně Deepfakes jsou problémem i v mnoha dalších oblastech – například v politice. Microsoft je jednou ze společností, které se snaží vyvinout technologii pro detekci deepfake, aby zabránila zneužití technologie před volbami.

Odděleně FTC hledá užitečné nápady, jak odhalit falešné zvukové nahrávky vytvořené umělou inteligencí. Dnes je uzávěrka přihlášek do soutěže Voice Cloning Challenge s hlavní cenou 25 000 $ pro celkového vítěze.