A Facebook mesterséges intelligenciával szimulálja a nemkívánatos felhasználókat

A Facebook mesterséges intelligenciával botokat képez ki arra, hogy nemkívánatos egyénekként viselkedjenek, és így akarják megtudni, hogy küzdhetnek az ilyen felhasználók ellen – írja a Verge. A szimulátort WW-nak (ejtsd: Dub Dub) hívják, és a fejlesztők szerint a botok viselkedéséből megtanulhatják, hogyan kezeljenek például egy fegyver- vagy kábítószerárust, egy álhírterjesztőt vagy egy csalót.

A Facebook fejlesztői szerint ezek a botok egy-egy felhasználó baráti körét használják ki, hogy átverjék. A rossz célú botok mellé épp ezért beraktak néhány ártatlan botot is, hogy azok leszimulálják ezeket az ismeretségi köröket. Nem egy steril rendszert használtak, hanem az éles közösségi hálót, de a botok nem látnak rá, és nem férnek hozzá az igazi felhasználókhoz.

Valójában nem igazi profilokat kell elképzelni, hanem adathalmazokat, és a fejlesztők nem kommenteket olvastak, hanem kommenteket jelképező számsorokat, amit a modell kiadott. Különböző akadályokat raknak a rossz célú botok elé, és azt nézik, hogyan reagálnak (hiszen elvileg egy ember is úgy reagál), és megfigyelik, mit tudnak tenni, hogy a normális működés megakasztása nélkül megállítsák ezeket a felhasználókat.

Amitől igazán hatékony lehet a kísérlet, az az, hogy egy óriási felület áll rendelkezésükre, így rengeteg szimulációt tudnak futtatni egyszerre. A botok néha nem úgy reagálnak, ahogy azt egy ember tenné, ami nem baj, mert így még több olyan megoldást is láthatnak a rossz célú botok részéről, amikre nem számítottak.