Bűnfigyelő appok konzerválják a rasszizmust
További Tech-Tudomány cikkek
Az elmúlt 25 évben a bűnözés meredeken zuhant az Egyesült Államokban (a különféle statisztikáktól függően 49-74 százalékot), az amerikaiak a felmérések szerint mégis úgy ítélik meg, hogy folyamatosan növekszik a bűnesetek száma. A lakossági aggodalom sajátos 21. századi tüneteként pedig egyre népszerűbbek azok a közösségi appok, amelyekkel a felhasználók élőben követhetik, hogy a lakóhelyükön éppen hol és milyen bűncselekmények történnek, ezeket meg is vitathatják, sőt jó állampolgár vagy – megítéléstől függően – jó házmester módjára maguk is jelenthetik, ha bűnesetet, illetve gyanús alakot látnak.
Közösségi önparáztatás
A környékük közbiztonságáért aggódók egész sor ilyen appból válogathatnak. (Ezek általában a bűnüldözés mellett a helyi kisközösségekre szabott más funkciókat is kínálnak, de a jelenség szempontjából ezek most mellékesek.) A legnépszerűbbek a Nextdoor, a Citizen és a Neighbors. Érdekes kérdés, hogy ezek az appok egy már meglévő igényt szolgálnak-e ki vagy inkább maguk gerjesztik a tények által indokoltnál nagyobb félelmet – valószínűleg egy kicsit mindkettő. A Neighborst például az Amazon leányvállalata, a Ring fejleszti, amely biztonsági kamerákat és más otthoni biztonsági kütyüket gyárt, így üzleti érdekük is szól amellett, hogy az emberekben tudatosítsák, milyen veszélyes helyen és kiszolgáltatottan élnek – akár a saját szomszédaiknak is.
Erre a felfokozott veszélyérzetre ráerősít a tér- és időbeli közvetlenség is: a felhasználók azonnali riasztásokat állíthatnak be a környékükön történő eseményekről, amivel sokkal több bűncselekményről szereznek tudomást, mint amennyi az app nélkül egyáltalán eljutna (illetve annak használata előtt eljutott) hozzájuk, így torzítva a közbiztonságról kialakított képüket. Ez pedig ördögi kör, mert minél veszélyesebbnek tartják az életterüket, annál jobban aggódnak, így egyre nagyobb szükségét érzik, hogy azonnal tudomást szerezzenek arról, ha valami veszély fenyeget – ez viszont egyre inkább megerősíti azt a képet, hogy valóban nagy a veszély.
Mindez nem pusztán azért problémás, mert félrevezető, hanem egészen konkrét negatív hatásai is lehetnek: a bűnözéstől való fokozott félelem hozzájárulhat a stressz-szint emelkedéséhez és ezzel egészségromláshoz vezethet.
Régi beidegződések
A jelenségnek ugyanakkor nemcsak az appok felhasználóira, de a szélesebb közösségre nézve is komoly hatásai lehetnek.
A közösségi bűnfigyelő appok felfutásának egyik oka a jelenséget elemző Vox cikke szerint a technológiai fejlődés. Bár az alaptalan félelmek és a bűn ellen összefogó helyi közösségek közel sem új dolgok, ma minden eddiginél könnyebb hírt adni a valódi vagy feltételezett bűnözőkről. Nemcsak hordozható kamerák lapulnak ott ma már mindenki zsebében, de egyre olcsóbb és ezért egyre több az otthoni biztonsági kamera is, így bőven van mivel képeket, videókat feltölteni, sőt élő közvetítést adni és nézni az appokban a gyanúsnak ítélt alakokról.
És itt kezdődnek a problémák.
Az appok felhasználói ugyanis a jelek szerint leginkább a feketéket (és más kisebbségekhez tartozókat) ítélik gyanús alaknak, jóval nagyobb arányban, mint amennyi bűnesetért valójában felelősek. Legutóbb az Amazon-féle Neighbors kapcsán merült fel ez a probléma, de az összes hasonló app küzd ezzel, amit a Nextdoor esetében még maguk a fejlesztők is elismernek.
A feketékre Amerikában még ma is nagy társadalmi nyomás nehezedik, mert a bőrszínükhöz kapcsolódó sztereotípiák miatt könnyebben válik gyanússá a viselkedésük fehér társaik szemében. Ezért igazolniuk kell a jelenlétük legitimációját olyan helyeken, ahol a fehérek alanyi jogon tartózkodhatnak anélkül, hogy bárki gyanúsnak találná őket. Ez a faji előítéletekből táplálkozó gyanakvás egyes kutatások [pdf] szerint leginkább a “fehér terekben” gyakori, azaz olyan helyeken, ahol a feketék kisebbségben vannak, illetve hagyományosan nem voltak jelen, de a dzsentrifikáció következtében megnőtt a számuk.
Ennek a társadalmi felszültségnek a legjellemzőbb megnyilvánulása, hogy az Egyesült Államokban a fehérek rutinszerűen hívnak rendőrt a feketékre már a gyanú legapróbb szikrájára is, mert bármilyen következmény nélkül megtehetik, még ha az ilyen esetekről gyakran ki is derül, hogy ártalmatlan hétköznapi szituációk indokolatlan túlreagálásáról volt csak szó. Néhány nagy visszhangot kapott példa:
- Egy Starbucksban két gyanús fekete férfira hívtak rendőrt, mert még nem rendeltek semmit (mint később kiderült, azért, mert egy harmadik barátjukra vártak).
- Egy 12 éves fekete fiúra, mert véletlenül a saját udvara után a szomszédéban is lenyírta a füvet.
- Egy fekete diákra, mert elaludt a saját egyetemi kollégiuma közös helyiségében.
- Három tinédzserre, akik a szalagavatójukra vettek ruhát, de az üzlet előtt már rendőrök várták őket, hogy átkutassák a csomagjaikat. (Nem loptak semmit.)
- Három feketére, akiket betörőnek néztek, mert bőröndöket pakoltak egy autóba, pedig csak az Airbnb-s szállásukat hagyták el éppen. (A bejelentő szerint az keltett benne gyanút, hogy a távozók nem köszöntek neki.)
- Egy csoport fekete nőre, amiért túl lassan játszottak egy golfpályán.
Ezt a fajta elfogultságot tehát közel sem a környék közbiztonságát figyelő appok generálják, de a felhasználók az esetleges előítéleteiket észrevétlenül átmentik az appokba is, amelyek aztán kihangosítják ezeket.
Persze mint általában, a technológia szerepe itt sem fekete-fehér, hiszen az előítéletek erősítése mellett éppen a közösségi média ad a korábbinál nagyobb teret az ebből adódó visszásságok bemutatásának is. Az ártatlanul feljelentett feketék eseteihez hasonlókat még naphosszat lehetne sorolni – de nem feltétlenül azért, mert az esetek száma nőtt meg ennyire az elmúlt pár évben, csak egyre több ilyen ügy válik széles körben ismertté, ahogy a sértettjeik vagy szemtanúik maguk számolnak be ezekről a neten, újra és újra társadalmi vitát gerjesztve a témáról.
Algoritmusba átmentett rasszizmus
Ha a technológia teszi lehetővé az öngerjesztő közösségi bűnfigyelést, akkor a helyi média hanyatlása ad neki még inkább teret. A mai átalakuló médiakörnyezetben a kis helyi lapok egyre nehezebben tudnak életben maradni, a bezáró vagy leépülő lapok miatt pedig egyre több Amerikában az információs fekete folt, ahol egyszerűen nincs, aki a helyi érdekű történésekről tudósítson. Ezt az űrt pedig egyre inkább a közösségi média tölti ki.
A probléma lényegében ugyanaz, mint a közösségi média sok más jelensége kapcsán is, az álhírektől a propaganda terjedéséig: a rendszerbe ellenőrizetlenül és igazolatlanul kerülhet be nagy mennyiségű információ, amely aztán önálló életre kel, futótűzként terjed, és maga az ennek a terjedésnek teret adó platform kölcsönöz neki hitelt, az igazságtartalmára való tekintet nélkül.
Az előítéletek átszivárgása a közösségi appokba veszélyes láncolatot indíthat el: az ezekben az appokban tett bejelentések valódi rendőri intézkedésekhez vezethetnek; ezek aztán a rendőrségi statisztikákban is nyomot hagynak; Amerikában viszont a bűnüldözésben egyre gyakrabban támaszkodnak adatelemző módszerekre, amelyek segítenek előrejelezni a bűncselekményeket; márpedig az ilyen prediktív algoritmusok fejlesztéséhez éppen a rendőrségi statisztikákat használják fel; ha viszont ezek az algoritmusok részben az előítéletek által torzított statisztikákon alapulnak, azzal ezek az előítéletek újratermelődnek abban a rendszerben is, amelynek egyik célja éppen az emberi szubjektivitás kiiktatása volna – hasonlóan ahhoz, ahogy a Google Fordító is konzerválta a betanításához használt szövegeket átitató nemi sztereotípiákat.