Bocsánatot kért a Twitter – állítja a The Guardian – miután morális megmérettetés alá esett az algoritmusa amiatt, hogy jobban szereti a fehér arcokat mutogatni a színeseknél.
Elsőnek egy PhD-hallgatónak tűnt fel, hogy az algoritmus levágta kollégája arcát a Zoom videóchat képmegjelenítőjén, miután nem ismerte fel sötét bőre miatt. Az algoritmus nem állt meg itt, egy felvételről magát Barack Obama volt amerikai elnököt is eltüntette, miközben a republikánus képviselőházi frakcióvezető, a fehér Mitch McConnell arcát megjelenítette.
Az algoritmus feladata az lett volna, hogy a szereplők arcát kiválassza és körbevágja, majd azt mutassa a feedben. Ez azért praktikus, mert így több képet is meg lehet osztani egy posztban és a nagy képek nem foglalnak túl nagy helyet. A hozzáfűzött reményeket nem váltotta be, ami egyesekben morális aggályokat szült a kódsorral szemben.
A többi kísérletben az algoritmus még szélsőségesebb irányba szánta el magát: nem kímélte a Simpson család karaktereit és a sötétebb színű kutyákat sem.