Rozhodnutí YouTube přestat monetizovat videa s robotickým dabingem je logickým, ale zároveň problematickým krokem. Rozlišit neautentický obsah od toho lidského nebude vůbec snadné, říká v komentáři expert na AI a zakladatel elevaty.ai Alexander Bruna.
Zejména v době, kdy AI generuje podle odhadů až 10 procent online obsahu, na sociálních sítích až 70 procent obrázků, se platformy snaží reagovat na záplavu syntetiky.
Jenže YouTube nově zakazuje masový neautentický obsah, tedy šablonovitá videa s generickým AI voice-overem. Cílem je zřejmě omezit nekvalitní „AI bahno“, kterým zahlcují platformu automatizované kanály, často generující hodiny obsahu denně. Jenže samotný princip rozpoznávání je zatím nejasný.
Detekce klonovaných hlasů je ve vývoji, Content ID teprve testuje nástroje pro syntetický zpěv, a aplikace, které dokážou zfalšovat hlas na základě tří sekund nahrávky, jsou už dnes běžně dostupné. V praxi je tak velmi těžké říct, jestli video namluvil reálný tvůrce, nebo jeho AI dvojník.
Je to jen začátek
Z pohledu technologického vývoje je to jen začátek. Do roku 2030 může být podle některých predikcí až 99 procent obsahu na internetu syntetického původu. S tím se bude muset změnit i způsob, jakým ověřujeme autenticitu a hodnotíme kvalitu.
Platformy jako YouTube sice zkoušejí nastavovat mantinely, ale otázka zní: budou umět miliardám hodin obsahu nasadit důvěryhodné filtry? Zatím to tedy působí spíš jako PR gesto než skutečně funkční nařízení, které má něco změnit.
Komentář: Alexander Bruna