Mesterséges intelligencia szűri Facebookon a kamuprofilokat

2019-ben negyedévente 2 milliárd kamuprofilt távolított el a Facebook, nemrég arról is mesélt, hogyan hívja ehhez a feladathoz segítségül a gépi tanulás folyamatát. A hamis profilokat általában spamek küldésére, adathalászathoz és csalásokhoz használják vagy éppen vírusokat küldenek a többi felhasználónak. 

Két részre lehet bontani a kamuprofilokat. Az egyik csoportba tartoznak azok, amiknek tulajdonképpen oldalnak kellene lenni, mégis személyként vannak fenn a közösségi oldalon. Néhány vállalkozás csinálja ezt, vagy ide sorolhatóak például a kisállatok profiljai is. Ez a könnyebbik eset, mert egyszerűen csak átkonvertálják oldallá, és a probléma megoldódott. A másik csoport a veszélyesebb, azok a személyes profilok, amiket adathalászatra, spammelésre és bármi olyan dologra használnak, amik megsértik a felhasználási szabályzatot. Ezeket még az előtt el kell tüntetni az oldalról, hogy kárt okozhatnának. 

A Facebook célja, hogy az ilyen oldalakat még az előtt kiszűrje, hogy aktiválnák, vagyis elindulna a csalás, ehhez pedig az kell, hogy már az oldal készítése közben jelezzenek az algoritmusok. Miután egy profil elkészül, az algoritmusok elkezdik mélyen elemezni a személyt, ezt hívja a Facebook úgy, hogy  Deep Entity Classification (DEC). 

Más a kapcsolati rendszer

A DEC elemzi a felhasználó kapcsolati rendszerét, ugyanis máshogy néz ki egy valós és egy kamuprofil kapcsolatainak szerkezete, de ezen kívül is több mint 20 ezer szempont szerint karakterizálják a profilokat, hogy nehezebb legyen kijátszani, és valós képet kapjanak arról, hogyan működik egy valós és egy kamuprofil. 

Kezdetben automatikusan generált, nem túl specifikus, de nagy mennyiségű címkét generál a rendszer előre meghatározott szabályok szerint, aztán jön a finomhangolás, amiben már olyan szabályrendszerek is vannak, amik például az adott kultúrát és a normákat és rengeteg más tényezőt is figyelembe vesznek. Ez a típusú mélyelemzés olyan kamuprofilokat is kiszűr, amik más nevében születnek, az olyan profilokat, amiket valaki feltört és használja, olyan profilokat, amik folyamatosan spammelnek, és azokat, amik felhasználókat manipulálnak. 

Nem csak az adathalászat, a választási manipuláció is probléma

A Facebookot az utóbbi időben több kritika is érte azzal kapcsolatban, hogy például az amerikai elnökválasztásra milyen hatással lehetnek a kamuprofilok, és az általuk generált dezinformációs kampányok. A közösségi oldal szerint csak véletlen egybeesés, hogy az új profilelemző rendszerüket a választások környékén élesítették, ugyanis ők minden típusú csalás ellen fel szeretnének lépni. A Facebook mérnöke, Daniel Bernhardt kiemelte, hogy azzal, hogy ennyire mély és részletes elemzést készítenek az algoritmusok a potenciálisan kamuprofilokról, a deepfake képek és videók ellen is hatékonyabban fel tudják venni a versenyt. 

A szakértők szerint mindenképpen értékelendő, hogy a Facebook megoszt olyan részleteket, amik a sokkal kisebb vállalkozásoknak is segíthetnek, melyik módszer az, ami beválhat a kamufelhasználók és más támadások ellen.  Ugyanakkor emlékeztetnek arra is, hogy az 5 százalékos eredmény még mindig azt jelenti, hogy

Bár rengeteget segít a gépi tanulás a hamis profilok elleni harcban, egyedül nem tudja teljesen kiszűrni a kártékony oldalakat, vagyis a jobb eredményhez valószínűleg olyan módszerre lesz szükség, ahol az ember és a gépek együtt lépnek fel a csalók ellen.