A sötétebb bőrű embereket kevésbé ismerik fel az önvezető autók

A Georgia Institute of Technologies azt vette észre, hogy az önvezető autók kevésbé ismerték fel a sötétebb bőrszínű embereket mint a világosakat. Ez éles helyzetben azt jelenti, hogy nagyobb az esélye, hogy egy sötétebb bőrszínű embert elütnek a sofőr nélküli autók. 

A vizsgálat alapkérdése az volt, hogy mennyire hatékonyan ismerik fel az önvezető autók a különféle demográfiai csoportokba tartozó embereket. Ehhez nagy mennyiségű, gyaklogosokról készült felvételeket osztályoztak a Fritzpatrick-skála alapján, amit a különböző bőrtípusok azonosítására használnak. Különválasztották a sötétebb és a világosabb színárnyalatú embereket, és arra voltak kíváncsiak, hogy van-e összefüggés a bőr árnyalata és aközött, hogyan mennyire érzékeli őket az önvezető autók rendszere.  

Az eredményekből az derült ki, hogy mindegy milyen fényviszonyok vagy terepviszonyok között végzik a vizsgálatot, a rendszer a sötét bőrű embereket 5 százalékkal pontatlanabbul azonosította, mint a világosabb bőrű gyalogosokat, vagyis egészen egyszerűen nem ismerte fel, hogy az ott egy ember. Az önvezető autók eddig is okoztak már baleseteket, és pont ma írtunk arról, hogy ilyen esetben nincs bevett gyakorlat arra vonatkozóan, hogy kit terhel jogi felelősség,  de ez a kutatás egy újabb problémára is rávilágít. 

A gyártók azonban nem értenek ezzel egyet,  a kutatás legnagyobb hibájának azt tartják, hogy nem a valóságot modellezték le, és őket kihagyták az egészből.  Az egész vizsgálatot ugyanis nem a már létező és tesztelt önvezető autók szenzorain végezték, hanem olyan kutatók által használt, nyilvánosan elérhető adatbázisokból, amik nem feltétlenül adnak valós képet a kérdésről. A kutatók szerint azonban pont az autógyártók nem szolgáltattak megfelelő mennyiségű adatot számukra annak ellenére sem, hogy ez közérdeklődésre tarthat számot. 

Nyilvánvalóan nem rasszisták az önvezető autók

A probléma a szakértők szerint egészen egyszerűen a rendszer tanulási szakaszából fakad. Joy Boulamwini, az MIT kutatójának magyarázata szerint ezek a rendszerek úgy tanulnak, hogy minél több képet és tesztadatot kapnak, annál biztosabban ismerik fel az embereket. Ha a tanulás folyamata során a rendszer sok képet kap világos bőrszínű emberekről, de kevesebbet sötétebb bőrszínűekről, akkor nagyobb magabiztossággal ismeri majd fel a világosabb bőrszínű embereket. De ez ugyanúgy előfordulhat akkor is, ha a nők vagy férfiak kérdését vizsgáljuk, vagyis nem a rendszer rossz, csak finomítani kell még a tanulási metódusán.