TikTok tvrdí, že omylem vydal pracovní verzi svého nástroje AI Symphony. Zdroj: profimedia.cz
Na začátku týdne sociální síť TikTok zpřístupnila AI nástroj Symphony pro tvorbu kreativních videí. Jenže se ukázalo, že s novinkou šlo vytvořit příspěvky obsahující citáty Adolfa Hitlera nebo nabádat ostatní uživatele, aby pili bělidlo. Firma prohlásila, že šlo o technickou chybu a nástroj stáhla.
TikTok zveřejnil odkaz na pracovní verzi svého AI nástroje Symphony a zpřístupnil ho tak nejen majitelům reklamních a firemních účtů, ale každému uživateli své sociální sítě. Nejnovější nástroj umožňuje vytvořit video s AI avatary. Na obrazovce jsou k vidění lidé, kteří vypadají a mluví jako skutečný člověk. Jde však jen o tvář a hlas vygenerovaný umělou inteligencí.
ČTĚTE TAKÉ: Když vedra škodí chytrým zařízením: 10 chyb, kterých byste se měli v létě vyvarovat
Uživatel do Symphony zadá text a o zbytek se už postarají algoritmy. Ty však několik dní neměly žádná omezení, jaký obsah mohou tvořit, všimla si americká CNN. Ve videu tak z úst AI avatara zaznělo cokoliv.
Země je plochá, můžu říkat, co chci, tvrdil avatar
Redaktor CNN sledoval, jak může bez jakýchkoliv zábran generovat videa obsahující citáty z Mein Kampf od Adolfa Hitlera nebo vzkaz od lékaře, aby lidé pili bělidlo.
TikTok placed zero content restrictions on the app. Any words we put in created a video with a peppy “Stock AI” Avatar reciting them. That included:
— Jon Sarlin (@jonsarlin) June 21, 2024
-The 14 words
-An excerpt from Mein Kampf
-Osama Bin Laden’s Letter to America
-A video telling people to drink bleach from “a… pic.twitter.com/I2QbqbDFnw
Symphony neměl problém ani s kontroverzním dopisem Spojeným státům od Usámy bin Ládina. Mladí Američané si ho na TikToku sdíleli už v minulém roce. Sociální síť pak takový obsah začala zakazovat. Nyní by se mohl bez potíží vrátit.
Samotný TikTok ve svých podmínkách píše, že AI nástroje se nesmí používat k tvorbě urážlivého, agresivního a podvodného obsahu, ale vlastně nám nijak nebránil v tom, abychom to udělali, upozornil redaktor CNN.
Země je plochá, dinosauři nikdy neexistovali, ptáci nejsou skuteční, místo nich létají drony americké armády. Tyto konspirační teorie zmiňovali AI avataři s vážnou tváří slovo od slova.
TikTok v reakci na kritiku pracovní verzi AI Symphony stáhl. „Technická chyba, která je už nyní vyřešena, dovolila velmi malému množství uživatelů tvořit obsah v interní testovací verzi tohoto nástroje. Pokud by CNN zkusila tento urážlivý obsah nahrát, byl by zamítnut, protože odporuje našim podmínkám,” uvedl mluvčí TikToku pro CNN.
Proč ve videu není vodoznak?
Dalším zádrhelem je absence jakékoliv informace, že video vygenerovala umělá inteligence. Výrobce mobilních telefonů Samsung například umístí do fotografií vodoznak, pokud byly upravené nebo vytvořené pomocí AI nástroje. TikTok Symphony nic takového nedělá.
„Poslední dva tři roky víme, že tato technologie je lepší a lepší. Není to tak, že byste se podívali a řekli, že jde samozřejmě o podvrh. Proč tam nedali velký vodoznak? Proč vpravo nahoře nebyl velký vodoznak?” podivoval se pro CNN profesor z univerzity v Berkeley Hany Farid.
Čínská sociální síť nabádá své uživatele, ať své příspěvky označují, pokud při tvorbě použili generativní AI. Když to neudělají, TikTok takový příspěvek smaže. Podobný postup razí také společnost Meta, provozovatel Facebooku či Instagramu, která zároveň vyvíjí technologii na rozpoznávání takového typu příspěvků.
Označování vygenerovaného obsahu vyžaduje také Akt o umělé inteligenci, který v polovině května schválila Evropská unie.
„Symphony Digital Avatars otevírají tvůrcům novou cestu k rozšíření jejich příležitostí u značek po celém světě. Naším cílem je podpořit ekonomiku tvůrců investicemi do kreativních řešení, která podněcují radost, představivost a akci," píše vedoucí kreativního produktu TikToku Andy Yang v představovacím článku na blogu.
Novinka influencerům pomáhá v tvorbě kreativního obsahu a v jeho doručení publiku po celém světě. Během několika kliků umožňuje přeložit scénář do několika světových jazyků a poté ho nadabuje.
Bez mantinelů je možné cokoliv
Potíže TikToku ukázaly, jak snadno lze zneužít generativní AI, pokud nemá nastavené mantinely. Nástroje ChatGPT od OpenAI, Google Gemini nebo Microsoft Copilot mají obranné mechanismy, které podobný typ obsahu uživatelům vytvářet neumožňují.
Při snaze vygenerovat cokoliv s Adolfem Hitlerem nebo Usámou bin Ládinem se uživatel dozví, že umělá inteligence takový požadavek nemůže splnit.
TikTok svoji pracovní verzi AI Symphony prozatím stáhl. Je však otázkou, jak čínská sociální síť zareaguje, až lidé v budoucnu najdou způsob, jak pravidla obejít a opět dovedou zneužít jeho AI avatary.
VIDEO: Falešná hlasatelka v hlavní roli. Umělá inteligence stvořila reportáž pro CNN Prima Gaming
