A Microsoft is beszáll a deepfake elleni harcba

A deepfake anyagok (mesterséges intelligencia által manipulált fotók vagy videók) akár a szórakoztatás eszközei is lehetnek, ha mémek vagy akár mozifilmek készítésénél alkalmazzák a technikát. Ugyanakkor aggodalomra is ad okot a megjelenésük, mivel az álhírek korában kitűnő eszközei lehetnek lejárató tartalmak gyártásának.

A Microsoftnak azonban – derül ki a Mashable cikkéből – támadt egy ötlete ezen tartalmak kiszűrésére. Kedden jelentett be a cég két új technológiát, ami képes megállapítani mi valós tartalom egy képen és mi az ami odaszerkesztett. Az egyik ezek közül a Microsoft Video Authenticator, ami képeket és videókat tud analizálni abból a szempontból, hogy hány százalék az esélye annak, hogy manipulálva voltak. A program úgy működik, hogy felfedez olyan elemeket a képen, amiket az emberi szem valószínűleg nem vesz észre, például finom elmosódásokat és gyanús határvonalakat a színeken belül.

A második program a Microsoft felhőszolgáltatásának, az Azure-nak részeként fog megjelenni. A program egy olyan funkciót ad majd a digitális vizuális tartalmat készítőknek, aminek segítségével digitális aláírásuk és tanúsítványuk bekerül a kép vagy videó fájlba. Amikor az adott kép vagy videó elterjed az interneten a digitális aláírás a metaadatokon keresztül benne marad a fájlban. A program böngésző kiegészítője, pedig megtudná találni az ezeket az aláírások, így a fogyasztóknak információt adhat arról, hogy ki készítette eredetileg azt a tartalmat és mi volt az eredeti tartalom, ami készült. 

Mivel a deepfake tartalmakat készítő mesterséges intelligencia egyre komplexebb és szofisztikáltabb lesz, ezért a Microsoft is folyamatosan fogja fejleszteni a saját deepfake tartalmakat kiszűrő mesterséges intelligenciáját.

A Microsoft egyébként nem az  egyetlen techcég, amely felvette a harcot a deepfake ellen. A Facebook már januárban betiltotta az ilyen felvételeket, a Twitter megjelöli a manipulált tartalmakat és a Reddit is betiltotta az oldalán a manipulált tartalmak álhírek terjesztésére való használatát.