Google DeepMind je již léta přesvědčen, že vytváření generativních nástrojů umělé inteligence vyžaduje také vytvoření nástrojů pro detekci toho, co bylo umělou inteligencí vytvořeno. Společnost proto nyní oznámila technologii SynthID, která vkládá do vygenerovaných obrázků digitální vodoznak, který je ale pro lidské oko neviditelný. Informoval o tom server The Verge a Engadget.
S vývojem technologie je stále složitější rozlišit skutečné obrázky od uměle vygenerovaných. AI generátory obrázků se staly běžnou záležitostí, například populární nástroj Midjourney se může pochlubit více než 14,5 milionu uživatelů. Společnost Google má vlastní generátor obrázků s názvem Imagen. Nová technologie SynthID se bude vztahovat pouze na obrázky vytvořené pomocí tohoto nástroje.
Google made a watermark for AI images that you can’t edit out https://t.co/cuXaUdei9e pic.twitter.com/K5JC2xNoS0
— The Verge (@verge) August 29, 2023
Vodoznaku si nevšimnete
Jak uvádí server Engadget, společnost DeepMind pracovala na tomto nástroji několik posledních let a dnes jej Google zveřejňuje. Nástroj SynthID je navržen tak, aby vytvořil vodoznak na obrázku vytvořený umělou inteligencí způsobem, který je pro lidské oko nepostřehnutelný, ale snadno zachytitelný specializovaným nástrojem pro detekci.
Vodoznak je vložen přímo do pixelů obrázku. Demis Hassabis, generální ředitel společnosti Google DeepMind uvedl, že nástroj nemění samotný obrázek znatelným způsobem. „Nemění obraz, jeho kvalitu ani zážitek z něj. Je však odolný vůči různým transformacím – ořezávání, změně velikosti, všem věcem, které můžete udělat, abyste se pokusili obejít normální, tradiční, jednoduché vodoznaky.“ Hassabis dále uvedl, že jak se bude nástroj zlepšovat, bude vodoznak pro člověka ještě méně vnímatelný, ale pro nástroje společnosti DeepMind ještě snadněji odhalitelný.
Společnost Google neprozradila mnoho informací o technické implementaci nástroje aby zabránila obcházení. „Čím více prozradíte, jak nástroj funguje, tím snadněji ho hackeři a nekalé subjekty obejdou,“ říká Hassabis. Zákazníci služby Google Cloud, kteří používají platformu Vertex AI a generátor obrázků Imagen, budou moci vodoznak vkládat a detekovat. Hassabis doufá, že až se systém bude více testovat v reálném světě, bude se zlepšovat. Pak ho bude moci Google používat na více místech, sdílet více informací o jeho fungování a získávat ještě více údajů o tom, jak dobře funguje.