Hülyére veszik a kínai fiatalokat a propagandával

A Graphika az álcázott, spamouflage néven ismert, Kína-barát dezinformációs műveletek nyomon követésekor fedezte fel a szinte tökéletes humanoid hamisítványokat a közösségi médiában.

Peking egyelőre nem kommentálta a jelenséget, a kínai kormány azonban korábban arra figyelmeztetett, hogy a deepfake „veszélyt jelent a nemzetbiztonságra és a társadalmi stabilitásra” egyaránt.

Maga a deepfake mesterséges intelligencia segítségével módosított videós tartalom, amelyet úgy hoznak létre, hogy egy arcot – a hitelesség látszatát keltve – máséra, nemritkán egy híresség arcára cserélik úgy, hogy közben a mimikát is híven utánozzák.

Ebben az esetben nem celebeket szerepeltettek.

Olyan felvételek jelentek meg a közösségi médiában, amelyek, legalábbis látszólag, a Kínai Kommunista Párt érdekeit népszerűsítették – áll az amerikai Graphika jelentésében.

„Ez az első alkalom, hogy egy államhoz kötődő műveletet ismerhetünk meg, amely mesterséges intelligencia által generált, fiktív személyről készült videófelvételeket használ megtévesztő politikai tartalmak tolmácsolására” – mondta Jack Stubbs, a Graphika alelnöke az AFP-nek.

A potenciális visszaélés forrása

A Graphika által elemzett egyik videóban egy Alexként bemutatkozó, fiktív férfi műsorvezető bírálja az Egyesült Államok tétlenségét az országot sújtó fegyvereserőszak-hullámban.

Egy másik videós hírben egy női műsorvezető a Kína és az Egyesült Államok közötti „nagyhatalmi együttműködés” fontosságát méltatja.

Deepfake 'news anchors'.

The "news broadcasters" appear stunningly real, but they are AI-generated deepfakes in first-of-their-kind propaganda videos that a research report attributes to Chinese state-aligned actorshttps://t.co/QN0AXF9Mpf

— AFP News Agency (@AFP) February 8, 2023

A két hírolvasó a megszólalásig élő emberre hasonlít.

A mesterséges intelligencia fejlődése világszerte riadalmat keltett a technológia dezinformációs és visszaélési potenciálja miatt.

Tavaly a Facebook tulajdonosa, a Meta közölte, hogy eltávolított egy hamisított videót, amelyben Volodimir Zelenszkij ukrán elnök arra szólította fel honfitársait, hogy tegyék le a fegyvert, és adják meg magukat Oroszországnak.

Kína nem kommentálta azonnal a Graphika jelentését, amely alig néhány héttel az után készült, hogy Peking szigorú szabályokat fogadott el a deepfake szabályozására.

Kína a múlt hónapban életbe lépett új előírások alapján megköveteli a deepfake szolgáltatásokat nyújtó vállalkozásoktól a szereplők valós személyazonosságának igazolását.

A deepfake tartalmakat ráadásul a megfelelő módon kell címkézni, megjelölni az esetleges „félreértések” elkerülése érdekében.

A dezinformációs műveletek

A Graphika jelentése szerint a Wolf News két műsorvezetőjét szinte biztosan a londoni Synthesia AI startupcég által kifejlesztett technológiával hozták létre.

A Synthesia olyan szoftvert hirdet, amellyel „élő szereplőkről készült videófelvételek alapján” deepfake utánzatokat lehet létrehozni.

A Graphika a spamouflage néven ismert Kína-barát dezinformációs műveletek nyomon követésekor fedezte fel a deepfake-et a többi között a Twitteren, a Facebookon és a YouTube-on.

A spamouflage Kína-barát befolyásolási művelet, amely elsősorban a gyenge minőségű, politikai spamnek tekinthető videókat terjeszti

– mondta Stubbs, aki szerint a kifinomult technológia ellenére az üzenetek egy kaptafára készülnek.

„Ez bizonyítja a deepfake befolyásolás korlátait: csak egy eszköz az egyre fejlettebb eszköztárban” – hangoztatta a szakértő.

Az azonosított videók alacsony minőségűek és „spamszerűek” voltak. Egyiknek sem volt háromszáznál több megtekintése – írta az ausztrál ABC News.

(Borítókép: Kevin Frayer / Getty Images)