Javult a Microsoft kissé rasszista arcfelismerője

Eddig súlyos tévedéseket produkált a Microsoft arcfelismerő algoritmusa, ha sötét bőrű egyének ültek a kamera elé, de a vállalat blogbejegyzése szerint az eszközei egyre pontosabbak. A hibaarány a sötét bőrű férfiaknál a huszadára csökkent, és kilenced részére a nőknél. A mesterséges intelligenciával működő rendszernek nem a kódjaival volt gond, hanem emberi mulasztás történt. Az zavarta össze, hogy a betanításához használt mintában jóval több volt a fehér bőrűekről készült fénykép, így a világosabb tónust jobban kezelte. 

A Microsoft azt állítja, hogy jelentősen kibővítette az AI-t betanító mintakészletét, és abban nagyobb arányban jelennek meg a sötétebb bőrárnyalatok.

Ha a gépi tanulási rendszereket úgy oktatjuk, hogy utánozza az előítéletes társadalom által hozott döntéseket, és ennek a társadalomnak az adatait használjuk fel, akkor ezek a rendszerek szükségszerűen reprodukálhatják ezeket az előítéleteket

– mondta Hanna Wallach, a Microsoft vezető kutatója a blogbejegyzésben.

Februárban az MIT Media Lab kutatói mutattak rá az arcfelismerő rendszerekben rejlő problémára, és megállapították, hogy a sötétebb bőrű nők 35 százalékának nemét nem ismerik fel ezek a rendszerek. A jelentés csak megerősítette, amit sokan évek óta gyanítottak: az arcfelismerő rendszereket korlátozott adatkészletekkel tanítják be.

Voltak ennél súlyosabb hibák is, például amikor a Google gorillaként azonosította a fekete férfiakról készült fotókat.

(The Verge)