Niggerezett a WeChat fordítóprogramja
Kövesse az Indexet Facebookon is!
Követem!Rasszista hajlamai lehetnek a kínai üzenetküldő alkalmazásnak, a WeChatnek. A szoftver fejlesztői bocsánatot kértek, amiért a szövegfordító modul az ártalmatlan hei laowai (fekete idegen) kifejezést úgy interpretálta angolul, hogy nigger.
Persze, ez nem az alkalmazás természetes fajgyűlölete; valószínűleg a gépi tanuláshoz használt mesterséges intelligencia merített olyan forrásokból, amiben szerepelt az N betűs kifejezés.
A problémát egy sanghaji színházi rendező, Ann James jelentette. Eredetileg a hei laowai szót akarta begépelni – ami szó szerinti fordításban fekete idegent jelent –, de a szövegfelismerő a jóval rövidebb és jóval sértőbb niggerre fordította.
A WeChat a bocsánatkérésen túl azt is elmagyarázta, hogy történhetett az eset. A fordítómotor által használt mesterséges intelligencia a hálózatról gyűjti az információkat. Az ilyen rendszerekre jellemző, hogy azokat az előítéleteket és hibákat is megtanulják, amik a forrásanyagban maradtak. (Ezért tartják fontosnak a big data szakértők a data quality, vagyis az adatminőség kérdését: hogy a gép csak tiszta forrásból dolgozzon.)
Lehetséges, hogy a WeChat olyan adatbázisokat is használt a gépi tanulásnál, amik rasszista szöveget, szlenget vagy sztereotípiát tartalmaztak. A fejlesztők azóta módosították az algoritmust.
(Guardian)
Kövesse az Indexet Facebookon is!
Követem!
