Společnost Amazon odhalila experimentální funkci virtuální asistentky Alexy, která jí umožňuje napodobit jakýkoliv hlas jen pomocí krátké nahrávky. Informoval o tom server The Verge.
Společnost tuto funkci předvedla na své výroční konferenci MARS. Tam ukázala video, ve kterém dítě požádá Alexu, aby mu před spaním přečetla pohádku hlasem jeho mrtvé babičky. Z chytrého reproduktoru s dětským motivem a designem pandy se ozval typicky veselý hlas Alexy: „Dobře!“ Když pak zařízení začalo vyprávět, robotický hlas Alexy vystřídal lidštěji znějící vypravěč.
Ukázka byla prvním pohledem na nejnovější funkci Alexy, která umožní hlasové asistentce replikovat hlasy lidí z krátkých zvukových klipů. Cílem je podle Prasada, vedoucího vědeckého pracovníka pro umělou inteligenci Alexy, vybudovat větší důvěru uživatelů tím, že se umělé inteligenci dodají „lidské atributy empatie a afektu“.
Společnost Amazon ale neuvedla, kdy a zda bude tato funkce někdy zveřejněna. Alexa prý dokáže napodobit něčí hlas z jediné minuty nahraného zvuku. V době hojných videí a hlasových poznámek to znamená, že průměrný spotřebitel má možnost naklonovat hlas vlastně kohokoliv.
Funkce tohoto typu jsou vždy kontroverzní
Kromě obav ze zneužívání deepfakes k podvodům, okrádání a dalším nekalým činnostem se již nyní objevují některé znepokojivé informace o tom, jak Amazon tuto funkci, která ještě nemá ani datum vydání, formuluje. Před předvedením ukázky Prasad hovořil o tom, že Alexa poskytne uživatelům „vztah společníka“.
„V této roli společníka jsou pro budování důvěry klíčové lidské vlastnosti, jako je empatie a afekt,“ řekl výkonný ředitel. „Tyto atributy se staly ještě důležitějšími v době probíhající pandemie, kdy tolik z nás ztratilo někoho, koho jsme měli rádi. Umělá inteligence sice nemůže odstranit bolest ze ztráty, ale rozhodně může zajistit, aby vzpomínky na ně přetrvaly.“
Podobná technologie se používá i ve filmu. Loni vyšlo najevo, že dokumentární film o životě kuchaře Anthonyho Bourdaina, který zemřel v roce 2018, použil umělou inteligenci ke klonování jeho hlasu, aby mohl číst citace z e-mailů, které posílal. Jak uvedl server The Verge, mnozí fanoušci byli aplikací této technologie znechuceni a označili ji za „strašidelnou“ a „klamavou“.