Átverték az előítéletes arcfelismerő rendszert

A Tel-Avivi Egyetem számítástechnikai karának kutatói kilenc olyan mesterséges arcot állítottak elő, amelyeket a különböző arcfelismerő rendszerek azonosnak érzékelnek az adatbázisukban szereplők negyven százalékával. Az IEEE idei automatikus arcfelismeréssel és gesztusvezérléssel foglalkozó konferenciáján bemutatásra kerülő kutatás tanulsága készítői szerint az, hogy az arcfelismerő rendszerek valójában nagyon sebezhetők.

A kutatók a Dlib, a SphereFace és a Google által fejlesztett FaceNet arcfelismerő rendszereit tették próbára, amelyeket a Massachusetts Egyetem arcfelismerés teszteléséhez széles körben használt LFW (a rövidítés feloldása: Labeled Faces in the Wild, címkézett arcok a vadonból, pontosabban a webről) 5749 arcképet tartalmazó adatbázisával töltötték fel. 

Az Nvidia teljesen valósághű emberi arcokat előállító StyleGAN mesterséges intelligenciájával állították elő az arcokat, amelyekhez az arcfelismerő rendszereken kerestek egyezéseket. A legtöbb egyezést addig módosították, míg végül a legtöbb egyezést mutató szuperarcot meg nem találták. 

Azért érdekelnek a mesterkulcsként működő arcok, hogy a létező arcfelismerő rendszereket megvédhessük az ilyen támadásoktól

– mondta a kutatást vezető Ron Shmelkin a Vice magazinnak.

Az arcfelismerő rendszereket becsapó mesterarcok túlnyomórészt hatvan év feletti fehér férfiak voltak, és a kilencből csak kettő volt nő. Ráadásul a mesterséges arcokat akár deep fake technológiával élővé és mozgóvá lehet alakítani, amivel a biometrikus adatok hamisítása ellen védő rendszer becsapható.

Az izraeli kutatók egy 2017-es munkájukban már egyszer megcsinálták ugyanezt – ujjlenyomatokkal. Kimutatták, hogy mindent nyitó ujjlenyomatok is léteznek, ami komoly fenyegetést jelenthet a mobiltelefonok részleges ujjlenyomat-felismerésen alapuló biometrikus azonosítási módszerére.

Az eredménnyel szemben kritikus szaklap, a FindBiometrics cikke szerint elképzelhető, hogy a mindent nyitó mesterséges arc komoly fenyegetéssé válhat, de az eredmény egyrészt nem a napi szinten használt arcfelismerő rendszereket veszi alapul, másrészt az végeredményt is erősen eltúlozták. Szerintük kevésbé egy erős biztonsági hibára, mint inkább a rendszer rejtett előítéletességére derült fény, csak a gépi intelligenciának a sötét bőrűek helyett most a ráncos, öreg fejekkel akad problémája.

(Arxiv, FindBiometrics, Vice)