Az internet elkezdte kiirtani a nácikat

Az amerikai Charlottesville-ben történő szélsőjobboldali atrocitásoknak nemcsak politikai, hanem kulturális következményei is voltak az elmúlt időszakban. Több városban konföderációs szobrokat rongáltak meg, a GoDaddy honlapoknak otthont adó cég letiltotta a nyíltan neonáci Daily Stormert, és még a Spotify így rájött, hogy lehet nem kéne elérhetőnek lennie annyi náci zenének a felületükön. A szélsőjobb folyamatos erősödése, a tradicionálisan konzervatív jobboldaliak radikalizálódása láncreakciót indított el az interneten, de egyelőre még senki sem tudja eldönteni, hogy tényleg szükséges-e törölni a náci kontentet az internetről, vagy ezzel pont a szólásszabadságot tiporják földbe az általában progresszívabb felfogású techcégek.

Nem ok nélkül tűnhet álszentnek és megkésettnek, hogy a Spotify csak azután törli az évek óta a felületén található, saját bevallásuk szerint is white power zenekarokat, hogy a Digital Music News nevű oldal több tucat neonáci zenekart talált a szolgáltatónál. Sőt, a cikk szerint a Spotify beépített algoritmusa még azt is tudta, hogy ha valaki éppen mondjuk a Kolovrat nevű náci bandát hallgatja, akkor feldob ajánlóként más hasonló szélsőséges együtteseket. Ezeket ugyan a számok szerint kifejezetten kevesen hallgatták, de az illiberalizmus, Trump, Putyin vagy éppen Erdogan idejében felerősödő xenofóbia, fehér felsőbbrendűség és rasszizmus hatására ezeknek az előadóknak elkezdett nőni a tábora.

A Southern Poverty Law Center nevű civil szervezet, ami kifejezetten gyűlöletkeltő csoportok, rasszista egyesületek és más fajvédők ellen harcol a '70-es évek óta korábban már jelezte, hogy ezek a náci együttesek jóval korábban megvetették a lábukat különböző tech cégek felületein. Az iTuneson például hosszú ideig lehet vásárolni náci együttesek zenéit, amiből az Apple profitált, dalonként 70 centet, albumonként 7 dollárt, illetve minden lejátszás után is kaptak némi pénzt az iTunes Radión keresztül.  A SPLC példaként a Bully Boys nevű náci bandát hozza fel, akinek a zenéi bármilyen iTunes-accounttal rendelkező, 13 évnél idősebb embernek volt elérhető, miközben a dalszöveg következőképpen hangzik magyarra fordítva:

Mozgassunk meg minden követ

Addig égetünk, ameddig az utolsó zsidó is égni fog

Gyújtsd be a sütőt, gyújtsd be a sütőt

Gyújtsd be a sütőt és csináljuk ezt még egyszer!

A SPLC természetesen kezdeményezte az Apple-nél, hogy ugyan legyen már szívesen leszedni a feketék, zsidók vagy melegek meggyilkolásáról, elégetéséről szóló náci zenéket, és hamar sikerrel jártak. Az első komolyabb jelzés után ugyanígy tett a Spotify is, ahol nagyon rövid időn belül elkezdek kiirtani a gyűlölködő zenéket, ahogy a Deezer is jelezte rögtön, hogy azonnal elkezdik átfésülni a katalógusukat, és kigyomlálnak minden olyan tartalmat, ami a fehér fajvédőkhöz köthető. Hozzájuk csatlakozott a CD Baby digitális terjesztő is, de még az OK Cupid nevű társkereső is törölte a nyíltan fehér fajvédő felhasználóit.

Mivel Európában nagyon komoly törvényekkel akadályozzák a náci propaganda, és ezen belül a zenék terjedését, a kicsiny underground színterektől eltekintve az új neonáci központi az Egyesült Államok, ahol konkrét náci zenékkel foglalkozó kiadók tudtak profitálni (a korai 2000-es években a legnagyobb ilyennek számító Resistence Records évente 70 ezer cédét is el tudott adni) évekig a gyűlölködő lemezek eladásából. Mára ezeknek a nagy része tönkrement, és ugyan fórumokon vagy levelezőlistákon még mindig él ez a színtér, a zenekarok inkább hülyét csinálnak azokból, akiket rühellnek. Egyszerűen fogták, és feltöltötték mindenhova a zenéiket.

Az újnáci mozgalmaknál központi szerepe van a zenének, hiszen ezzel némi bevételt tudnak termelni, új tagokat toboroznak és kifejezetten a fiatalokat hülyítik be a gyűlölködésükkel, elég csak akár a magyar szkinhedekre (pontosabban a boneheadekre, erről itt írtunk részletesen) gondolni, akik között máig találni tinédzsereket. Az internet pedig máig pont annyira kontrollálatlan hely, hogy még az olyan toleranciára, elfogadásra, progresszióra törekvő cégek, mint a Spotify, az Apple, az Amazon vagy a Google sem tudják megakadályozni, hogy ilyen tartalmak kerüljenek a felületeikre. Hogy szándékosan vagy figyelmetlenségből, esetleg a túlságosan gépekre és algoritmusokra épülő rendszerük miatt, az már egészen más kérdés.

Nem kell túl sokat keresgélni ahhoz, hogy az említett cégeknél náci tartalmat találjon az ember. Emlékeznek még a sütőgyújtogató dalra pár bekezdéssel feljebb? 15 másodperc volt megtalálni a Youtube-on.

Ráadásul a Google kifinomult algoritmusai miatt a jobboldali, ajánlósávban az érdeklődő látogató még rengeteg hasonló náci tartalommal találkozhat, csak töltsön még több időt a Youtube-on, amiből a cég profitál.

Nagyon úgy néz ki, hogy a láncreakció legutoljára a Google-höz ért el, mert amíg a Youtube-on még mindig fent van minden, amit náci zenének szokás hívni, addig máshol azonnal reagáltak. A Variety egy héttel ezelőtti cikke szerint az Amazonon streamelhető és megvásárolható egy rakás náci együttes cédéje, de a cikk írásakor már ennek csak hűlt helyét találtuk, pedig a kereső még mindig kidobja magától a Skrewdriver nevű neonáci nevét beírva a "skrewdriver cd" keresési opciót. Miközben a Youtube-on láthatóan nem történt semmi, a Google legalább a saját zenestreaming szolgáltatásán elkezdett tisztogatni, és eltűntetett minden gyűlölködő kontentet. Az már más kérdés, hogy elég csak picit legörgetni a Youtube náci videói alá, hogy az emberiség legsötétebb bugyrai táruljanak fel előttünk.

A problémát többek között az jelenti, hogy a Youtube-ra akkora adatmennyiség töltődik fel (percenként közel négyszáz órányi kontent) minden percben, amit képtelenség emberi léptékkel kontrollálni. Ezért is találták ki a bejelentések rendszerét, azonban sokan egyáltalán nem is hallottak arról, hogy lehet jelenteni gyűlöletbeszédet tartalmazó videókat és zenéket, vagy ha mégis, néha túlságosan macerás ennek a funkciónak az előhívása. A zenei disztribúcióval (magyarul, akik elintézik, hogy a zene felkerüljön minden online szolgáltatóhoz) foglalkozó CD Baby is arról panaszkodott, hogy 8 millió dalt és többszázezer előadót kezelnek, illetve forgalmaznak rajtuk keresztül mások, egyszerűen képtelenség mindet monitorozni. 

Ahogy az LA Times is írja, a náci felületek és tartalmak törlése más problémákat is felvet. Ugyan nem sérti a szólás szabadsághoz való jogot Amerikában, hiszen magáncégek bármikor megtehetik, hogy egyszerűen megtagadják a szolgáltatásukat bizonyos felhasználóktól, mégis komoly nehézséget okoz megkülönböztetni a gyűlöletbeszédet a puszta politikai kommentártól. A nyíltan neonáci weboldal, a Daily Stormer esete is mutatja, hogy hiába nevezték a Der Stürmer nevű egykori náci propagandalapról, csak azután kezdtek el tenni valamit az egyik legnépszerűbb alt-right oldal ellen, amikor már tényleges erőszak történt Charlottesville-ben. Brittan Heller, az amerikai Anti-Defamation League képviselője szerint a jelenlegi eseményekkel átléptük a Rubicont, és most már az emberek szerint is tenni kell valamit az ellen, hogy a szolgáltatók ne adjanak teret a gyűlöletpropagandának, legyen szó szkinhed zenékről vagy neonáci bloggerekről. Az már más kérdés, hogy semmibe sem kerül ezeknek a tartalmak új szolgáltatót találni mondjuk Oroszországban, és folytatni a gyűlöletkeltést. Ahogy a Daily Stormer is próbálkozott nemrég, de ez még ott is soknak számított. Végül a deep weben, a pedofilok, drogdílerek és emberkereskedők online Mekkájában.

Hogy a helyzet még bonyolultabb legyen, érdemes idézni Janna Eggers, a Nara Logics mesterséges intelligenciával foglalkozó szoftvercég vezetőjét. Eggers a Wirednek beszélt arról a példáról, amikor a Youtube a nagy antifasiszta lelkesedésében még azt a videót is törölte gyűlöletbeszédre hivatkozva, amiben amerikai katonák robbantanak le egy ház tetejéről egy horogkeresztet. Ez a hiba jól mutatja, hogy egyelőre nincs olyan fejlett algoritmus, ami különbséget tudna tenni náci propaganda és történelmileg fontos, nácikhoz kötődő tartalom között. Ki dönti el, hogy például a náci katonadalok és indulók most propagandának vagy történelemnek számítanak? Ha egy ember sem tudja eldönteni, akkor egy algoritmustól hogy várjuk el ezt? Az biztos, hogy a jelenlegi világpolitikai helyzetben egyre erősödő szélsőségesekre már a techipar is elkezdett reagálni, és ahogy a Facebookot szorongatják a kormányok az álhírek és uszító tartalmak visszaszorításáért, úgy maguk ezek a cégek is érzékelik Charlottesville óta, hogy eddig lehetett csak elmaszatolni a problémát, innentől kezdve még szükségesebb az kitalálni, hogy az akár erőszakra is buzdító, radikális tartalmak hogyan tűnjenek el az internetről úgy, hogy közben ne tegyünk úgy, mintha a náci atrocitások nem történtek volna meg.