Atombombaként robbanthatja ránk a világot a mesterséges intelligencia

Gyurcsány Ferenc egy unalmas hétfő reggelen váratlanul véleménycikket írt az Indexen a mesterséges intelligencia várható hatásairól, és megfogalmazta a saját javaslatait is. A téma üdítő színfolt az ellenzéki diskurzus palettáján, már csak azért is, mert a mesterséges intelligencia korunk egyik legfontosabb, talán végső egzisztenciális kérdése. Ha bejön, az emberiség a soha nem látott bőség korszakába lép, és képes lesz megoldani mindent, amin ma aggódunk: eltüntetheti a betegségeket, az éhezést, megoldhatja az öregedést, és választ adhat a klímaváltozás szorongató kérdéseire is. Ha kicsit nem jön be, az emberi társadalom „csak” a végletekig polarizálódik az álvalóságok útvesztőjében. Ha nagyon, akkor kiirtja magát a következő néhány évtized során. És még csak meg sem kell várnunk, hogy megfőzzük magunkat.

A volt miniszterelnök cikke hozza a kötelezőt: lazán felvázolja a munkaerőpiacra váró kihívásokat, értelmiségi szalonokba illően spekulál a mesterséges intelligencia morális dilemmáiról, tapasztalt kormányzóként listázza a módosítani szükséges kormányzati dokumentumokat, és a tőle megszokott, harsány szemantikai túlzással még az ipari forradalmat is összehozza a Tanácsköztársaság közismert plakátjával. A problémaérzékelése kiváló, az iránya – ez utóbbit leszámítva – egész  jó. De van még mit hozzátenni.

Először is: nem vonja le a nyilvánvaló szakpolitikai következtetéseket, amelyek már most is itt vannak előttünk, mint például a kötelező munkaidő radikális csökkentése vagy az alapjövedelem bevezetésének megfontolása.

Másodszor: a mesterséges intelligencia nem jön. A mesterséges intelligencia már itt van. Körbevesz minket, és állandóan alakítja azt, ahogy és amit a világból érzékelünk. A Facebook, az Instagram vagy a TikTok mögött álló algoritmusok ismerik, mi érdekel, tudják, mit szeretünk, miben hiszünk, és ezt ki is használják. Az egyre gyakrabban felbukkanó hirdetések csak idegesítő kellemetlenségek ahhoz képest, hogy az információk terjedése klasszikus csatornáinak felbomlásával úgy tűnik, szétmállik a közös valóságunk.

Mi van a buborékban?

Kutatások sora igazolja, hogy az álhírek és a félelemkeltés lényegesen gyorsabban terjednek, mint a valós tényekre alapozott információk. Az algoritmusok pedig szeretik azt pakolni elénk, amit már biztosan szeretünk, így gyorsan egy önmagát folyton megerősítő, ördögi kör alakul ki. Azokat a híreket fogyasztjuk, amelyeket eredetileg is igaznak véltünk. Azokat az embereket figyeljük, akik megerősítenek minket a hitünkben. Buborékokba kerülünk, vagy ami még rosszabb, olyan információs zárványokba, ahonnan szándékosan nem is akarnak minket kiengedni. Ez az evolúciós minta, a hasonló gondolkodásúak iránti vonzalom a szavannán segítette ugyan a túlélést, mert egyben tartotta a törzset, de a 21. században már a társadalmak fragmentálódásához vezet. A másik oldalnak olykor már nem csak a narratíváját, de még a tényeit sem fogadjuk el.

Ahogy Harari néhány hete az Economistban is rámutatott: az emberi hiedelmek és történetek köré fokozatosan törzsek, társadalmak és végül globális civilizáció épültek. Ezeket a szövegeket idáig emberek írták embereknek, még azokat is, amelyek később extrém politikai mozgalmak vagy szélsőséges eszméket hirdető vallások középpontjául szolgáltak. Mi lesz akkor, ha már gépek alkotják majd ezeket a szövegeket, pontosan ismerve és kihasználva az olvasók pszichés gyengeségeit? A manipuláció egészen új, személyre szabott formái születhetnek majd meg.

Csakhogy egy egészen durva példát hozzak: képzeljük el, hogy valaki feltöri elhunyt édesanyánk online fiókjait, és ellop minden információt, amit ő egykor a digitális térben hagyott. Egy neurális hálózat megtanulja imitálni anyánk stílusát, ismeri majd a kedvenc helyeit, ételeit, birtokában lehet valamennyi emlékének, a másodperc tört része alatt feldolgozza mindazt, amit fénykép, videó vagy szöveg formátumban valaha is feltöltött a netre. Most pedig képzeljük el, hogy ez a rendszer egyszer csak megszólít minket, és beszélgetni kezd velünk. Biztos, hogy ellen tudnánk állni a kéréseinek?

Többek között ezért írta Harari, hogy a mesterséges intelligencia máris meghekkelte az emberi civilizáció operációs rendszerét: a nyelvet. A nyelv ugyanis tartalom és forma egyszerre. Kategorizáljuk, strukturáljuk és értelmezzük vele a világot. Együttműködéseket építünk fel. Előbb csak terveket szőttünk a segítségével, hogy levadásszuk az előlünk riadtan menekülő mamutot, később már holdrakétát építünk, rákgyógyszereket fejlesztünk, vagy megfogalmazzuk az ENSZ alapokmányát. A homo sapiens történetében először azonban az ember már nem egyedüli ura a saját nyelvének. Ezen a fejleményen azért érdemes alaposabban is eltöprengenünk.

Az MI felhasználásának csábítása

Más nyilvánvaló folyományai is lesznek a hirtelen széles nyilvánosság előtt fellobbant MI-láznak. A könnyű profittal kecsegtető eredmények fokozni fogják a területre érkező tőkebeáramlást. A verseny gyorsan élesedik majd, ahogy az egyre nagyobb adathalmazokkal dolgozó rendszerek mind több és több területen válnak alkalmazhatóvá a hétköznapi felhasználók számára is. 

A világ a következő 10 évben jobban felfordul majd velünk, mint a rendszerváltás óta idáig összesen – már ha a felfordulásnak van valamilyen összehasonlításra alapot adó mértékegysége. Mindez ráadásul egy nagyon feszült geopolitikai pillanatban történik velünk. Oroszország, semmibe véve a nemzetközi jogot, tavaly hosszú évek fegyveres konfliktusai után brutális inváziót indított Ukrajna ellen. Kína továbbra sem tett le arról, hogy új, saját érdekeinek inkább megfelelő nemzetközi rendet kényszerítsen ki. Növekvő gazdasági-katonai ereje és az utóbbi években mind harciasabbá váló retorikája sokakat tölt el aggodalommal.

Hogy Kína ebben a törekvésében sikeres lesz-e, egyáltalán sikeres lehet-e, az ma még az egyik legfontosabb nyitott kérdése a nemzetközi kapcsolatoknak. A távol-keleti ország elöregedő társadalma, a lassuló gazdasági növekedése és az infrastrukturális beruházásainak fokozatosan csökkenő megtérülései arra utalnak, hogy kiegyenlítettebb lehet a következő évek nagyhatalmi versengése, mint azt korábban feltételeztük. Egyesek úgy érvelnek, hogy Kína közelít a teljesítőképessége csúcsához, ám ez talán még súlyosabb kockázatokat hordoz. Egy nagyhatalom számára – élén az öregedő, immáron örökös pártfőtitkárral – talán éppen a csúcsot követő pillanat az utolsó utáni lehetőség a nemzetközi szabályok agresszív átírására, még mielőtt vagy az egekbe szökő szociális kiadások szelídítik meg a sárkányt, vagy az azok hiánya miatt elégedetlen nép dönti meg ismét az új köntösbe bújt császár hatalmát. 

A hegemóniáért folyó küzdelemben a mesterséges intelligencia válhat az új fegyverkezési verseny fókuszpontjává. Részben azzal, hogy a mostani fegyverrendszerek pontosabbá és hatékonyabbá válnak. Részben pedig azzal, ha a mesterséges intelligencia saját maga válik fegyverré. Például úgy, hogy felhatalmazást kap olyan vissza nem fordítható, stratégiai szintű döntések meghozatalára, amelyeket emberi felügyelő már nem tud vagy nem kíván követni.

Atombombát építeni drága, időigényes, és viszonylag könnyű kiszúrni, ha valaki ilyesmivel próbálkozik. Pusztító hatású mesterséges intelligenciát fejleszteni – ha a technológia már rendelkezésre áll – ehhez képest lényegesen olcsóbb, gyorsan másolható, és nehezen észrevehető. Különösen veszélyes ez akkor, ha a vetélytársunk már most egy formálódó technodiktatúra, amely nem fogja vissza magát holmi emberi jogok fölötti aggodalmaskodással.

A mesterséges intelligencia – szerinte – inkább a felvilágosodással mérhető össze. Azzal a korral, amelyben Európában alapvetően változott meg az információhoz, a tudományokhoz és a kritikus gondolkodáshoz való viszony, aminek következményeként felbomlottak a feudalizmus évszázadok alatt megmerevedett struktúrái. A tudományos gondolkodás eredményeként beindult az ipari forradalom, és Európa, a világnak ez az addig nem igazán jelentékeny kis sarka, hirtelen az élre tört, és kolonizálta az egész bolygót. Az egész világon elterjesztett intézményei megalapozták a mai globális világunkat. Ugyanakkor a technológia diadala végül a 20. század két világégéséhez, milliók esztelen halálához és még többek szenvedéséhez vezetett. A mesterséges intelligencia hatása ehhez lesz mérhető, csak nem háromszáz, hanem mindössze huszonöt év leforgása alatt. Észnél kell tehát lennünk.

Éppen ezért van mindenekelőtt arra szükség, hogy az államok, a tudósok, a civilek és a nagy techcégek mielőbb meg tudjanak állapodni egy olyan szabályozásban, amely nem fojtja meg az innovációt, de elkerüli, hogy a mesterséges intelligencia fejlesztésének lázától megrészegülve végül elveszítsük a kontrollt, és soha többé vissza nem fordítható folyamatokat indítsunk el. Az Európai Uniónak az egységes szabályozás kialakításában vezető szerepet kell vállalnia. Ez megerősítheti az európai innovációt, és magas vásárlóerővel bíró piaca révén képes nyomást gyakorolni a világ többi részére is.

Mi, magyarok

Magyarország szerepe mindebben igen érdekes, hiszen sem egyedül nem fogja tudni megoldani a mesterséges intelligencia jelentette kihívást, sem elzárkózni nem fog tudni annak egyre gyorsabban érkező és hevesebb hullámai elől. Az út előttünk részben az okos alkalmazkodás, részben a saját hozzáadott értékünk növelése kell hogy legyen. Európa összeszerelő üzeméből egy innovatív, immateriális javakban gazdag országgá kell válnunk, magunk mögött hagyva a rendszerváltás utáni harmincöt év bizonytalan útkereséseit. Mindezt azonban nem tehetjük meg anélkül, hogy az emberre pusztán erőforrásként tekintő kapitalizmust legalább zöldkapitalizmussá ne szelídítenénk, ahol az ember és a minőségi élet számít a legfőbb értékünknek a termelés mindenhatóságába vetett hit helyett.

Mindehhez nincs is olyan sok dologra szükség: a körülöttünk éppen ismét felfordulni látszó világban minden nemzetet a minőségi tudás megszerzése, a kritikus gondolkodás elsajátítása és a különbségek áthidalásával megtalált kölcsönös együttműködések tehetnek sikeressé. Tehát végeredményben a megismerő kíváncsiság és a kulturális nyitottság. Amikor a kormány bosszútörvénnyel kényszerít tanárokat, gyűlöletet szít, és társadalmi csoportokat stigmatizál, akkor a közös jövőnk sikerének lehetőségét herdálja el.

Pedig a mi utunk ez: az innováció, a kultúra és a fenntarthatóság Magyarországa.

A szerző nemzetközi kapcsolatok szakértő, a Párbeszéd – Zöldek szóvivője, Újbuda alpolgármestere.

A véleménycikkek nem feltétlenül tükrözik az Index szerkesztőségének álláspontját.

(Borítókép:  Tang Yanjun / China News Service / Getty Images)