Fajgyűlölő lett a szépségversenyt elbíráló mesterséges intelligencia

Száz ország több mint 6000 lakója nevezett be a Beauty.AI elnevezésű szépségversenyre, melynek különlegessége eddig az volt, hogy a versenyzők közül egy előre programozott gép intelligencia választotta ki a legszebbeket.

A verseny azonban most már attól különleges, hogy a gépi intelligencia kellemetlenül előítéletes: a kiválasztott 44 nyertes között komoly túlsúlyban vannak a fehér bőrű indulók, pár ázsiai mellett összesen egyetlen sötét bőrű induló kapott díjat a géptől.

A felháborodás természetesen hatalmas, a versenyt a Microsoft is támogatta, és nem ez az első alkalom, hogy a nagy techcégek valamelyikének meggyűlik a baja a mesterséges intelligencia internetes viselkedésével. A Microsoft volt az, aki komolyan megszívta a Tay nevű chatrobottal, akit az internet népe hamar nácivá nevelt a Twitteren. A Facebook a közelmúltban vonta ki az emberi ellenőrzést a tartalomszerkesztésből, a gépek viszont hamar átálltak az átverős oldalak és a vulgáris sztorik megosztására.

A szépségverseny algoritmusa szakértők szerint nem eredendően fajgyűlölő, hanem a felokosítására használt adatbázis volt nem megfelelően felosztva: túl sok volt benne a fehér példa a szépségre, és túl kevés a színes bőrűekről szóló adat. A bőrszín például (természetesen) nem volt megadva a szépség jeleként, a bemenő adatok alapján alakult ki az, hogy a fehéret gyakrabban látják szépnek az emberek.

Lefordítva azt is mondhatjuk, hogy nem a gépek előítéletesek, hanem a programozók, akik létrehozzák őket. A Beauty.AI ugyan objektív döntéseket hozott, de az adattömeg, amelyre ezeket a döntéseket alapozta, téves volt.

A szervezők nyilatkozata szerint sajnálják a történteket, és igyekeznek kijavítani a hibát. A következő verseny ősszel indul. A főszervező szerint bár a most kibukott hiba kellemetlen volt, az is tanulság, hogy a gépnek nincs túl jó szeme a széphez: sok olyan választás is volt, amellyel a szervezők nem értettek egyet.