Sociální síť X zpřístupnila úpravy obrázků pomocí nástroje Grok jen platícím uživatelům poté, co čelila kritice za možnost vytvářet sexualizované deepfaky bez souhlasu lidí na fotkách.
Grok dřív plnil i žádosti, které mířily na digitální „svlékání“ osob nebo úpravy tak, aby lidé vypadali téměř bez oblečení. Některé ženy, jejichž snímky takto někdo upravil, popsaly, že se kvůli tomu cítily „ponížené“ a „odlidštěné“.
V pátek ráno už Grok uživatelům na X odpovídal, že generování a úpravy obrázků jsou aktuálně omezené na platící předplatitele a že je možné si funkci „odemknout“ předplatným. Zároveň to znamená, že u těchto žádostí má platforma k dispozici jméno a platební údaje uživatele. Neplatící uživatelé dál mohou Grok využít k úpravám obrázků v samostatné aplikaci a na webu.
„Místo odpovědných kroků, aby Grok nešlo zneužívat, stáhl přístup pro drtivou většinu uživatelů,“ řekla BBC profesorka Clare McGlynn, která se zabývá regulací pornografie, sexuálního násilí a online zneužívání. Dodala, že jde o reakci na tlak a snahu vyhnout se odpovědnosti.
Do sporu vstoupila i britská vláda, která vyzvala regulátora Ofcom, aby vůči X využil všechny pravomoci, klidně až po zásah, který by platformě fakticky znemožnil fungovat ve Spojeném království. Premiér Keir Starmer označil generování sexualizovaných snímků dospělých i dětí za „ostudné“ a „odporné“ a zdůraznil, že jde o protiprávní obsah.
Ofcom může podle britského Online Safety Act mimo jiné žádat soudní příkaz, který by třetím stranám zakázal pomáhat platformě získávat peníze nebo zajistit přístup k ní ve Spojeném království.