Mesterséges intelligenciával szűrnék a zaklató kollégákat

#MeTooBot a neve annak a fejlesztésnek, amit cégek rendelhetnek meg, hogy monitorozzák a belső levelezést, csetelést és dokumentumokat, és kiszűrjék, ha zaklatást tapasztalnak. A készítők szerint nem volt egyszerű dolog megtanítani a botot arra, hogy egészen pontosan mit is kell keresnie a beszélgetésekben, hogy felismerje a zaklatást. 

Jay Leib, a botot fejlesztő chicagói NexLP vezetője azt mondta, hogy nem is volt tisztában azzal, mennyire összetett dolog a zaklatás, és nemcsak arról szól, hogy valaki csúcsán beszél-e, sőt nem is mindig egy üzenetről beszélünk, hanem üzenetfolyamokról vagy akár egy fotóról. 

A botot jelenleg több mint 50 cég használja, köztük több neves londoni ügyvédi iroda is, miután kiderült, hogy az angol ügyvédnők harmadát érte már szexuális zaklatás a munkahelyén. 

Az algoritmust úgy tanították, hogy miután kiszűrte a potenciális zaklatásokat, a kommunikációt továbbítsa a HR-osztályra, ahol kivizsgálják az esetet. Hogy egészen pontosan mi számít zaklatásnak, az céges titok, de annyit elárult Leib, hogy nemcsak a szöveget nézik, hanem a gyakoriságot is, illetve hogy milyen napszakban történik, de azt is gyanúsnak ítélik meg, ha változik a kommunikációs minta, azaz például többször és hosszabban írogat valaki a másiknak. Közben a program folyamatosan tanul.

A Harvard és az MIT szakemberei szerint van a zaklatásnak az a fajtája, amit egészen egyszerűen nem tudnak kiszűrni a botok, vagyis vagy lesznek olyan dolgok, amik felett elsiklanak, vagy túlérzékenyek lesznek. Arról nem is beszélve, hogy a zaklatók hamar kiismerhetik és kijátszhatják a rendszert, akit viszont alaptalanul jelez a HR felé, azt is érheti megbélyegzés vagy bizalmatlanság. Arra is felhívják a figyelmet, hogy hangsúlyt kell fektetni a bot használatakor az adatvédelemre, különben belső levelezések szivároghatnak ki és kerülhetnek akár konkurens cégekhez. 

A nőjogi szervezetek sem lelkesednek az ötletért, szerintük egyrészt nem ez a probléma megoldásának a módja, másrészt sosem lehet tudni, hogy a kommunikáció folyamatos monitorozása valóban azt a célt szolgálja-e, hogy visszaszorítsák a zaklatásokat, vagy csak egy újabb lehetőség arra, hogy a dolgozókat megfigyeljék. Szerintük a megoldás inkább az lenne, ha megtanítanák az alkalmazottaknak, hogy milyen az elfogadott viselkedés. 

Arra talán jó lenne ez a bot, hogy oktatási célból bemutasson néhány nem helyénvaló üzenetet

– mondta Sam Smethers, a Fawcett Society vezetője, bár mások szerint ezek a botok hathatnak egyfajta placebóként, és igenis lehet megelőző szerepük, az emberek ugyanis kétszer is végiggondolják, hogyan fogalmaznak meg egy levelet vagy egy üzenetet.