A szemünk előtt épült ki a digitális diktatúra

„A mesterséges intelligencia (MI) és a biotechnológia együttesen teljesen fel fogja forgatni a munkaerőpiacot, a globális rendet, de még a saját testünket és az elménket is” – mondta az Indexnek adott interjújában  Yuval Noah Harari. Az izraeli sztártörténész könyvet is írt a gondolatairól, állítólag a kötet Orbán Viktor egyik kedvence.

Úgy tűnhet, hogy Harari valami távoli, sci-fi szerű jövőről beszél, pedig ez már a jelen: a világ legtermészetesebb dolga, hogy a kereskedelemben, a marketingben, de még a politikában is egyre gyakrabban hívják segítségül az emberekkel kapcsolatos adatokat, azt, hogy mit vásárolnak, mire keresnek rá, mit gondolnak egyes kérdésekben. Így a 21. században az adatok értéke túlnőheti mind a föld, mind a gépek és gyárak értékét. Az viszont digitális diktatúrához vezethet, ha egy állam vagy cég túl sok adattal rendelkezik. 

Vannak is, akik ezt túltolják, és egy egész államrendszert építenek az adatokra, méghozzá elég intenzíven.

Hat évvel ezelőtt még  szenzációnak számított , hogy a Pentagon és a CIA volt tagjainak cége, a Trapwire arcfelismerő programokkal figyeli a térfigyelő kamerákat. A szoftver arcról vagy akár járásról is felismeri a zárt láncú megfigyelőrendszer látóterébe kerülő személyeket, és elemzi a viselkedésüket. Ha valaki például többször visszatér fényképezni ugyanarra a helyszínre, vagy túl hosszan időzik valahol, akkor – ha az ügyfél mondjuk a nemzetbiztonsági szolgálat – a Trapwire jelenti a megrendelőnek, hogy emelje meg a helyszínen a fenyegetettségi szintet.

Egy ilyen technológia léte Kínában már nemhogy nem számít hírnek, de körülbelül annyira nyilvánvaló, mint az, hogy a csapból víz folyik. Nagyon gyorsan történt minden. 

Az autoriter rezsim már 2014-ben ráállt erre a technológiára, akkor egy arcfelismerésen alapuló fizetési megoldást vezettek be. A Kínai Tudományos Akadémia kutatói – más egyetemekkel együttműködve – akkor egy egyedülálló technológiát fejlesztettek ki az adatok begyűjtésére, amely egyszerre szerzett információt az arcról 91 különböző szögből. A fizetéssel kapcsolatos rendszer úgy működik, hogy a felhasználók telepítenek egy alkalmazást a telefonjukra, ami egy pillanat alatt azonosítja őket, aztán összekapcsolják a bankkártyájukkal az appot.

Három évvel később már arcfelismerő szoftverrel tartották szemmel az egyik pekingi egyetemi kollégistáit. Most már az sem számít rendkívülinek, hogy a középiskolai diákok órai viselkedését is arcfelismerő szoftverekkel figyelik. A kamerák semleges, boldog, szomorú, csalódott, ijedt, mérges és meglepett arckifejezéseket tudnak felismerni, valamint hatféle viselkedést, hogy a tanuló áll, olvas, ír, jelentkezik, a tanárra figyel, vagy esetleg az asztalon fetreng-e.

Ám mindezek eltörpülnek a nagy társadalmi kreditrendszer mellett. Ennek a lényege, hogy Kínában az embereket az állami rendszer pontozza. És nem csak a magánszemélyeket, hanem a civil szervezeteket és a cégeket is. 

Az emberek szokásaik, viselkedésük, társadalmi státuszuk és a környezetük egyaránt befolyásolja, hogy mennyi kreditjük van. Minél magasabb valakinek a pontszáma, annál könnyebben boldogul az életben, könnyebben kap állást, hitelt, és ugyanez fordítva: minél kevesebb a kredit, annál nehezebben jut egyről a kettőre. Ha például valaki az államhoz lojális minisztériumi dolgozó, aki nem ellensége a rendszernek, magas pontszámra számíthat, míg egy olyan ember, aki valamiért csípi az államhatalom szemét, sokkal kevesebbre. Az utcákon, tereket, közintézményekben, üzletekben elhelyezett kamerák az arcfelismerő szoftverek segítségével gyűjtik be az adatokat, így az emberek kénytelenek „jól viselkedni”, ha nem szeretnék, hogy hátrány érje őket. 

Ezt a fajta népnevelést könnyen el tudja adni a kínai állami propaganda, ha a közbiztonság felől közelít. A térfigyelő kamerák mögött az arcfelismerő algoritmusok pillanatok alatt megtalálhatják a szökevényeket. Rengeteg ilyen hírrel van tele a kínai média. Van, amikor hatvanezer néző között találnak meg egy körözött férfit, máskor a pályaudvaron, kamerás szemüveggel járőröző rendőrök gyűjtenek be így több tucat bűnözőt.

Persze megvan erre a saját magyarázatuk is, amivel a totális megfigyelést és ezt az ijesztő népnevelést igazolják. Eszerint a kínai társadalom az utóbbi évtizedek változásai miatt „az ismerősök társadalmából az idegenek társadalmává vált”. Hogyha pedig az emberek már nem a megfelelő erkölcsi értékek szerint cselekszenek, akkor bizony „szükség van egy rendszerre, amely korlátozza a cselekedeteiket” – ezt állítja például a Kínai Tudományos Akadémia. Miközben – ahogy erről már írtunk – a rendszer valóban hasznos lehetne számos égető probléma kezelésében, a korrupciótól és adóelkerüléstől a hatékonyabb egészségügyi rendszeren és jobb élelmiszer-biztonságon át egészen a környezetszennyezés csökkentéséig.

A cél az algoritmikus kormányzás

– mondta a The New York Times riporterének egy szakértő. Valamint a nyilvános megszégyenítés. Vannak olyan területek, ahol a szabálysértők neve és azonosítási száma azonnal megjelenik egy nagy kivetítőn. A kínai kormány több mint 170 millió mesterséges intelligenciával és arcfelismerő technológiával megtámogatott kamerát telepített eddig, de a következő években még további 400 millió kamerát akarnak üzembe helyezni.

A Business Insider ugyanakkor arról ír, hogy bár ezek a számok valóban impozánsok, a valóságban a rendőrség például nem tudja annyira kiaknázni az arcfelismeréses technológia adta lehetőségeket, mint amennyire szeretné. Egyszerűen azért nem, mert túl sok ember arcát kellene túl rövid idő alatt elemezni. Máskor pedig az jelenti a problémát, hogy 5-6 nappal a bűncselekmény elkövetése után dobja csak fel a rendszer az elkövető arcát, így már nem tudják a helyszínen megfogni. 2016 óta mindenesetre négyezer embert sikerült ennek segítségével őrizetbe venni Kínában. A rendőrök éppen ezért inkább a technológia visszatartó erejében hisznek, mondván, ha az emberek tudják, hogy figyelik őket, ezerszer is meggondolják, mit tesznek.   

A totális megfigyelés Kínában egy régi hagyományon alapul. Az állam úgy véli, hogy csak egy erős, autoriter rendszer tud rendet tenni egy turbulens országban. Merthogy Kína egy ideje változásokon ment keresztül. Mao Ce-tung még a kemény diktatúrára építette hatalmát, de későbbi utódai rájöttek, jobb alkut kötni az alattvalókkal. Ha nem szólnak bele a politikába, ha nem állnak ellen, akkor lehetőséget kapnak arra, hogy a politikán kívül azt csináljanak, amit akarnak, így akár meg is gazdagodhatnak.

A cenzúra és az állami erőszakszervezet erős maradt, az emberek mégis szabadabbnak érezhették magukat. Ez a hozzáállás nagyban segítette az elmúlt évtizedekben, hogy a kínai gazdaság is növekedjen. Csakhogy a gazdasági növekedés mára érezhetően lelassult. A hatalom ezért félelmében az autoriter eszközökhöz nyúl és azért, hogy biztosra menjen, úgy tűnik, a digitális diktatúrában látja a kiutat. A rendszerhez lojális embereket jutalmazza, a rendszerre veszélyeseket bünteti. 

Az eredmény döbbenetes. Az ausztrál ABC egy hosszabb cikkben mutatta be, hogyan működik már most a gyakorlatban a nagy társadalmi kreditrendszer. A szerző két példát hoz fel. Az egyik egy olyan 37 éves nőé, akinek magas a kreditje. A legfontosabb oka ennek, hogy a rendszerhez lojális, nincsenek káros szenvedélyei, és nem utolsósorban fizetőképes. Azt, hogy az illető mennyire fizetőképes, egy online rendszer, a Sesame Credit segítségével mérik. A Sesame Creditben 800 pontot lehet elérni, az említett nőnek 770 pontja van. Öt tényező befolyásolja a pontszámot:

• A kínai Pay Pal, az Alipay rendszerén keresztül fizetett vásárlások: hányszor és mennyit költöttek a felhasználók.
• Időben fizetett számlák az Alipayen keresztül.
• Időben fizetett hitelkártya-tartozások az Alipayen keresztül.
• Személyes adatok, mint a lakóhely és a foglalkozás megadása. Pont azért jár, hogy a felhasználók egyáltalán megadják ezeket az adatokat, azok tartalma elvileg nem számít be.
• Plusz pontot jelent, ha valakinek csatlakoznak a barátai is – de csak maga a csatlakozás, a barátok személyes adatai nem számítanak a saját pontokba.

Az ellenpélda, akit az ABC felhozott, egy oknyomozó újságíró, Liu Hu. Neki nulla kreditje van, a kormány őt ellenségként kezeli. Értelemszerűen nem kaphat hitelt, de még egy vonatjegyet sem tudott vásárolni online. Azután vesztette el a kreditjeit, hogy egy cikk miatt beperelték, ő pedig nem tudta kifizetni a bírságot.

Nincs egyedül, rajta kívül legalább tízmillió kínai került a kreditrendszeren kívülre. Hu szerint a kínaiak többsége még nem fogta fel, mi vár rájuk a digitális diktatúra alatt. 

Borítókép: Peking. Fotó: Qilai Shen / Bloomberg / Getty Images Hungary.