Politická kampaň s AI videami oponentov
Generatívna umelá inteligencia, ktorá dokáže produkovať textové výstupy, ale aj obrázky, zvuky a videá, sa v uplynulých rokoch rýchlo stala povinnou výbavou profesionálnych tvorcov obsahu, ale aj bežných ľudí prispievajúcich na sociálne siete. Odlíšiť realitu od fikcie je pritom často ťažké až nemožné. A technológia ďalej napreduje.
Od 2. augusta v EÚ platia nové pravidlá týkajúce sa využitia umelej inteligencie, takzvaný AI akt. Podľa článku 50 musia firmy, značky, médiá, profesionálni tvorcovia obsahu, ale aj politici priznávať obsah vytvorený alebo upravený umelou inteligenciou. Konzumenti digitálneho obsahu majú vedieť, že sa pozerajú na AI obsah.
Odborník na umelú inteligenciu preto upozorňuje, že spoločnosť bude musieť zmeniť stratégiu – cieľom nebude odhaľovať AI falzifikáty, ale vybudovať takzvanú infraštruktúru pôvodu obsahu. Teda schopnosť technologicky potvrdiť, resp. overiť autenticitu pravého záznamu.
Najväčšie riziko digitálnych falzifikátov je podľa experta to, že si na falošný obsah zvykneme.
Letmý pohľad na sociálne siete dokazuje, že obsah vytvorený s pomocou AI je dnes prítomný v komunikácii väčšiny strán naprieč celým politickým spektrom. Rovnako platí, že nie vždy je označený, hoci pri takzvanom fotorealistickom obsahu ide o povinnosť danú pravidlami platformy. Mnohí, vrátane politikov, si ju však neplnia.
Analýza mesiacov komunikácie politikov a ich strán na sociálnej sieti Facebook sa zamerala primárne na parlamentné strany a hnutie Republika so stranou Demokrati.
Záplava neautentického obsahu vytvoreného AI priniesla rôzne typy príspevkov, s akými sa dnes môžete stretnúť na sociálnych sieťach. Fiktívne audionahrávky, čiastočne zmanipulované či kompletne umelo vytvorené videá vymyslených, ale aj reálnych postáv, prípadne siahodlhé texty, aké by pred pár rokmi písal len málokto, no dnes ich vidieť na každom kroku v príspevkoch či komentároch.
Označovanie AI obsahu informáciou, že bol vytvorený alebo upravený umelou inteligenciou, je jedným zo spôsobov, ako sa sociálne siete vyrovnávajú so záplavou neautentického obsahu. Spoločnosť Meta, prevádzkovateľ Facebooku a Instagramu, začala s označovaním AI obsahu už v roku 2024 – skôr, ako na nový technologický trend zareagovala legislatíva.
Jej riešenie bolo jednoduché. Pod menom autora, respektíve FB stránky, zobrazila takzvaný štítok – malé, nič nehovoriace tlačidlo s generickým názvom „Informácie o AI“. Ak ho používateľ rozklikol, zobrazil sa mu opis naznačujúci, že príspevok môže zahŕňať obsah vytvorený pomocou AI.
Pred pár mesiacmi Meta štítok upravila, dnes znie „Obsah AI“. O niečo efektívnejšie naznačuje, že obsah vytvorila umelá inteligencia, no bežný používateľ ho môže ľahko prehliadnuť.
Ďalším problémom je, že na sieťach Facebook a Instagram nie je zodpovedajúco označený všetok AI obsah. Meta sa spolieha najmä na to, že obsah budú označovať samotní používatelia. Prikazuje im to v pravidlách sociálnych sietí, informáciu môžu k príspevku pridať pri jeho tvorbe zaškrtnutím tlačidla „Pridať štítok pre AI“.
Pravidlá sa však týkajú len takzvaného fotorealistického obsahu. Ide o audio, fotografie či videá, ktoré vyzerajú ako skutočné a divák by si ich mohol pomýliť s reálnymi zábermi.
Ak používateľ neprizná, že ide o AI obsah, sieť môže štítok napriek tomu zobraziť. Meta totiž proaktívne kontroluje obsah a hľadá v ňom indície o tom, že ide o dielo umelej inteligencie. Využíva napríklad štandardizované protokoly, ktoré AI firmy na tento účel vytvorili.
Divák vie rozlíšiť, či si tvorca obsahu splnil svoju úlohu a štítok pridal sám, alebo to za neho urobil systém Mety. Dá sa to zistiť kliknutím na štítok. Ak popis hovorí, že štítok neuvádza, že ho pridal samotný tvorca, znamená to, že to urobil systém fungujúci v pozadí.
Systém Mety však zďaleka nezachytí všetko. Naopak, zrejme dokáže identifikovať len menšiu časť „nepriznaného“ AI obsahu. Ide o problém najmä pri snahách o manipuláciu a vytváranie dezinformácií. Ich tvorcovia nielenže nepriznajú, že obsah nie je autentický, ale v niektorých prípadoch sa aktívne snažia obsah upraviť tak, aby systém Mety nedokázal manipuláciu odhaliť.
Tieto problémy Meta priznala aj v oficiálnom stanovisku. „Preto je pri určovaní, či obsah vytvorila AI, dôležité zohľadniť viacero faktorov. Patrí medzi ne overenie dôveryhodnosti účtu, ktorý obsah zdieľa, či hľadanie detailov, ktoré môžu vyzerať alebo znieť neprirodzene,“ nabáda americká spoločnosť.
Za nesplnenie povinnosti plynúcej z pravidiel platformy hrozí tvorcom obsahu trest. „Ak tak neurobia, môžeme aplikovať postihy,“ hovorí Meta, no nešpecifikuje, čo používateľom a administrátorom stránok hrozí. Dodnes nepoznáme jediný významnejší prípad, pri ktorom by porušovanie pravidiel označovania AI obsahu viedlo napríklad k zablokovaniu konta na sociálnej sieti.
