Ofcom říká, že vyhledávače fungují jako brány sebepoškozování

Od spuštění ChatGPT došlo k velkému posunu směrem k bezpečnosti obsahu. Autocenzura ChatGPT a dalších chatbotů ve skutečnosti není věc, pokud jde o vyhledávače, ale nyní Ofcom upozorňuje na jedno z nebezpečí – to je snadný přístup k obsahu sebepoškozování.

V nové studii pro Ofcom od Network Contagion Research Institute (NCRI) mohou hlavní vyhledávače, včetně Google, Bing, DuckDuckGo, Yahoo! a AOL, fungovat jako brána k obsahu, který oslavuje nebo oslavuje sebepoškozování – to zahrnuje webové stránky, obrázky a videa.

V rámci studie zadala NCRI běžné dotazy na sebepoškozování a záhadné termíny používané online komunitami, aby skryly skutečný význam. Na základě 37 000 výsledků vyhledávání bylo zjištěno, že převládá škodlivý obsah způsobující sebepoškozování, vyhledávání obrázků je obzvláště rizikové a záhadné vyhledávací výrazy odhalují více škodlivého obsahu.

Almudena Lara, ředitelka rozvoje zásad online bezpečnosti ve společnosti Ofcom, k těmto zjištěním uvedla:

„Vyhledávače jsou často výchozím bodem pro online zkušenosti lidí a my se obáváme, že mohou fungovat jako brány na jedno kliknutí k vážně škodlivému sebepoškozujícímu obsahu.

Vyhledávací služby musí porozumět jejich potenciálním rizikům a účinnosti jejich ochranných opatření – zejména pro zajištění bezpečnosti dětí online – před naší rozsáhlou konzultací, která proběhne na jaře.“

Jedním z hlavních upozornění v této studii je, že vědci nepoužívali bezpečné vyhledávání a nastavení rozmazání obrazu. Pokud mají rodiče na místě správné filtry, věci jako bezpečné vyhledávání by měly být ve výchozím nastavení zapnuté bez možnosti je vypnout – což dětem nabízí určitou ochranu.

Ofcom je prosazovatelem zákona o online bezpečnosti , který byl nedávno schválen ve Spojeném království. Vyhledávačům řekne, aby podnikly kroky ke snížení pravděpodobnosti, že děti najdou škodlivý obsah, jako je propagace sebepoškozování, sebevraždy a poruchy příjmu potravy. Konzultace se má uskutečnit na jaře.

Zdroj: Ofcom