Szigorú ellenőrzésen mennek át a robotok, rasszizmustól és szexizmusól tart New York

New York mostantól megköveteli az elfogultság ellenőrzését, amikor a vállalatok mesterséges intelligenciát használnak a munkaerő-toborzásban – írja Fox Business. A harmadik fél által végzett „elfogultsági ellenőrzésre” vonatkozó városi követelmény célja a kisebbségi jelöltek diszkriminációjának megelőzése.

A 2023. július 5-én hatályba lépett jogszabály értelmében egy harmadik félnek elfogultsági ellenőrzést kell végeznie minden automatikus foglalkoztatási döntési eszközön (AEDT), amelyet egyre több vállalat használ a potenciális munkavállalók felkutatására.

A törvényjavaslat azt is előírja, hogy a jelölteket értesíteni kell az AEDT alkalmazásáról, és a vállalatoknak közzé kell tenniük az elfogultsági vizsgálat eredményeit is, ha ilyen célokra mesterséges intelligenciát alkalmazó szoftvert használnak.

Julia Stoyanovich, a New York-i Egyetem informatika professzora, az NBC News szerint elismerően nyilatkozott az új szabályokról, de aggodalmát is kifejezte, miszerint ennyi nem lesz elég.

Ez egy fontos kezdet, de még mindig sok a hiányosság, például az elfogultsági ellenőrzés nagyon korlátozott a kategóriák tekintetében. Nem vizsgálja az életkoron alapuló megkülönböztetést, ami a munkaerő-felvételben óriási probléma, továbbá a fogyatékosságot sem

– mondta Stoyanovich. 

A mesterséges intelligencia diszkriminációs potenciálja egyre nagyobb aggodalomra ad okot egyes megfigyelőcsoportok körében.

A Fehér Ház a múlt hónapban ígéretet tett arra, hogy hamarosan szövetségi szabályok születnek a mesterséges intelligenciára vonatkozóan, és a kongresszus is vizsgálta a feltörekvő technológia lehetséges szabályozását.