Na TikToku kolují krátká videa plná rasistických stereotypů. Podle organizace Media Matters, která se zaměřuje na kontrolu médií, mnohá z nich vznikla pomocí nástroje Google Veo 3. Přestože mají platformy přísná pravidla, některé klipy nasbíraly miliony zhlédnutí.
Media Matters zjistila, že některá z videí nesou vodotisk s označením „Veo“. U jiných uživatelé přímo zmiňují název nástroje nebo hashtagy související s AI. Videa trvají maximálně osm sekund, což odpovídá technickému limitu služby.
Obsah videí je často extrémně urážlivý. Část z nich míří na černošské komunity a využívá opakujících se předsudků. Nechybí ani karikatury spojované s jídlem, zobrazování lidí jako zvířat nebo přímé ponižování.
AI zobrazovala i antisemitismus a násilí
Některé klipy zachycují antisemitské narážky, falešné scény s migranty nebo protestujícími, které přejíždí auta. V oběhu jsou i záběry připomínající koncentrační tábory. To vše ve formátu, který si diváci přehrávají znovu a znovu.
Podle Media Matters se část videí dostala i na Instagram a YouTube. Na těchto platformách sice nezískala tolik zhlédnutí, ale jejich přítomnost ukazuje, že problém není omezený jen na TikTok.
Google i TikTok mají jasná pravidla
Google ve své prezentaci nástroje Veo 3 uvádí, že blokuje závadné požadavky i výstupy. TikTok tvrdí, že „nenávistné projevy a chování nemají na platformě místo“ a že obsah s negativními stereotypy není doporučován.
„Proaktivně uplatňujeme přísná pravidla proti nenávistnému obsahu a odstranili jsme účty uvedené ve zprávě, přičemž mnohé byly zablokovány už dříve,“ uvedla mluvčí TikToku.
AI se stává nástrojem propagandy
Rozmach generativní umělé inteligence vede nejen k inovacím, ale také k jejímu zneužívání. Autoři nenávistného obsahu využívají nástroje jako Veo 3 k usnadnění šíření propagandy. Díky umělé inteligenci mohou snadno vytvářet virální formáty, které působí autenticky.
V loňském roce se začaly objevovat deepfake videa s falešnými pornografickými scénami a nepravdivými obviněními. V jednom případě se ředitel školy stal obětí videa vytvořeného umělou inteligencí, které ho falešně označilo za rasistu.
Tlak na regulaci roste
Vývojáři umělé inteligence a velké platformy čelí rostoucímu tlaku ze strany zákonodárců. Ti požadují zavedení přísnějších filtrů a pravidel, aby se zabránilo takovému zneužívání. Zároveň připravují legislativní opatření na ochranu veřejnosti před manipulací.
AI je výkonný nástroj. Ale když ho využijí ti, kteří šíří nenávist, může škody znásobit. TikTok, Google i další platformy tak čeká důležitý test – jak moc dokážou své algoritmy uhlídat.