Álmodik-e Isten elektronikus bárányokkal?

Egyetlen, mesterséges intelligenciával eltöltött év elég ahhoz, hogy valakit istenhívővé tegyen

– írta Alan J. Perlis, a Yale Egyetem néhai számítógéptudósa még 1982-ben.

Hogy igaza volt-e, nem tudni, de annyi biztos, hogy a mesterséges intelligencia (MI) kutatása az azóta eltelt 35 évben szélsebes tempóra kapcsolt, és már a laborok falán kívül, a mindennapi hírekben is rendszeresen megjelenik a téma.

Ezért egyre gyakrabban és komolyabban merül fel az is, hogy ha a gépek egyszer tényleg okosabban lesznek, mint egy ötödikes, mihez kezdünk majd mi velük, ők mivelünk, és ezzel a egész helyzettel a társadalmaink, a világképünk – és például a vallásaink.

Mindez persze még ma is inkább sci-fi, de egyre nehezebb a fikció és a valódi tudomány témái közé éles határt húzni. És egyes jóslatok szerint ez a határvonal még inkább el fog mosódni, ahogy közelítünk a technológiai szingularitáshoz. Ez lesz az az időszak, amikor

a technológiai változások üteme olyan gyors lesz és a hatásuk olyan mély, hogy az emberi élet visszafordíthatatlanul átalakul

– írta a 2005-ös könyvében Ray Kurzweil, a világ talán legismertebb, bár majdnem ugyanennyire vitatott megítélésű futurológusa. Ő 2029-re jósolja, hogy egy MI eléri az emberi intelligencia szintjét, a szingularitás beköszöntét pedig 2045-re teszi.

Arról, hogy tulajdonképpen mi is az a mesterséges intelligencia, miért nehéz megmondani, hányadán is állunk vele, és főleg hogy mennyire reális a robotapokalipszistől tartani, ebben a korábbi cikkünkben részletesebben is olvashatnak.

Ezúttal inkább azzal foglalkozunk, milyen hatással lehet a vallásokra (az egyszerűség kedvvért leginkább a kereszténységre) és magukra a vallásos közösségekre, ha egyszer csak szuperintelligens gépekkel találják szemben magukat. (Ebben a cikkben MI alatt az emberrel egy szintet elérő, úgynevezett erős vagy általános MI-re gondolok, nem a telefonjainkban és más kütyüinkben már ma is működő, jóval korlátozottabb képességű „mesterséges intelligenciára”.)

A cikk fejezetei ezekre a kérdésekre keresnek választ:

1. Befogadná-e a vallás az intelligens gépeket?
2. Egyáltalán mit is értük azon, hogy egy gép – vagy éppen egy ember – intelligens?
3. Lehet-e egy mesterséges intelligenciának morális felelőssége? Nyerhet-e megbocsátást? Egyáltalán, képes-e vétkezni?
4. Mi lesz, ha az ember elkezd istent játszani?
5. És a saját biológiai korlátainkat meddig feszegethetjük? Mikor csap át a tudományba vetett hit maga is vallásba?
6. Na és mihez kezdhetnek mindezzel a vallások?
7. Hogyan készülünk a jövőre, és mire érdemes figyelni? Tanulhatunk-e valamit a saját gépeinktől?

Minderre persze a legritkább esetben adható konkrét és egyszerű válasz – de mint tudjuk, a lényeg úgyis a kérdések megértésében rejlik. Ebben pedig két beszélgetőpartner is segítségünkre lesz: Szilárdi Réka, a Szegedi Tudományegyetem sci-fi-irodalomban is jártas valláskutatója, és Héder Mihály, a Budapesti Műszaki és Gazdaságtudományi Egyetem többek között a mesterséges intelligencia filozófiájával foglalkozó oktatója.

1. Ha az ufó jöhet, a gép miért ne jöhetne?

Tegyük még egyelőre félre az olyan, egyébként nem éppen elhanyagolható kérdéseket, hogy honnan fogjuk egyáltalán észrevenni, ha öntudatra ébred egy gép. Először inkább nézzük meg azt, hogy ha ez egyszer megtörténik, és az intelligens gépek történetesen szeretnének csatlakozni Isten nyájához, vajon megengedi-e majd ezt nekik a vallásos közösség.

Erről persze megoszlanak a vélemények. Szilárdi Réka szerint rögtön fölmerül a kérdés, hogy egyáltalán melyik Istenről és melyik vallásos közösségről beszélünk. „A világ vallásilag igen sokszínű, de emellett maguk az egyes vallások sem homogének, mert a különböző csoportok értelmezései eltérhetnek. Nehéz dolgunk lenne például »a keresztény álláspont« meghatározásával, mert nem mindegy, hogy a kérdező a katolikus, protestáns, doketista, pünkösdi vagy épp a baptista válaszra kíváncsi.”

Vagyis lehetnek különféle megközelítések, de valójában úgyis az lesz a kérdés, hogy a különböző keresztény csoportok melyiket fogják érvényesként elfogadni. Ettől függetlenül érdemes figyelni, hogy az új idők jelenségeire milyen értelmezési kísérletek születnek.

Nem gondolom, hogy Krisztus megváltása csak az emberekre korlátozódna. A teremtés egészére vonatkozik, még az MI-re is. Ha az MI autonóm, bátorítanunk kellene a részvételre

– mondta például Christopher J. Benek, a technológia és a vallás kapcsolatával foglalkozó amerikai lelkész. – A Szentlélek munkálkodhat az MI-n keresztül; bármin keresztül munkálkodhat. A jövőben lehetnek majd olyan egyházak, amelyek foglalkoznak a vallásos MI-vel, és népszerűsítik azt. Az MI segíthet Isten igéjének elterjesztésében. Valójában talán abban is segíthet, hogy jobban megértsük Istent.”

Bár ez az álláspont az egyik végletet képviseli, bármilyen radikálisan hangzik is, az biztos, hogy a fősodorbeli értelmezések is sokat változnak a tudomány előrehaladtával. Mi a helyzet például egy másik intelligens létformával, amely majd a jövő egyházának kapuján kopogtathat? Mit kezdene az egyház a földönkívüliekkel?

Maga Ferenc pápa 2014-ben azt mondta:

Ha holnap idejönne egy marslakó-expedíció, [...] és azt mondanák, hogy meg akarnak keresztelkedni, mi történne? Ha az Úr megmutatja nekünk az utat, kik vagyunk mi, hogy azt mondjuk, »nem, Uram, ez nem volna okos, csináljuk máshogy«?

Korábban már az egyház tudósai is eljátszottak a földönkívüli hívők gondolatával, és például a Vatikáni Csillagvizsgáló korábbi igazgatója, José Gabriel Funes arra jutott, hogy ha léteznek, a „földönkívüli testvéreink” is a teremtés részei.

Mi is akkor a különbség a földönkívüliek és az MI esete között? Kapásból az, hogy előbbiek az emberhez hasonlóan természetes biológiai létformák, az MI pedig, legalábbis ahogy ma elképzeljük, nem az. Miért is fontos ez? Azért, mert a keresztény hagyomány szerint az embert a lélek különbözteti meg a Föld más élőlényeitől. Viszont ha csak azért zárnánk ki az MI-t, mert nem természetes lény, azzal azt sugallnánk, hogy a lélek valamiféle biológiai konstrukció, ami éppen a vallásos spiritualizmussal menne szembe. (Erre később még visszatérünk.)

Az MI és a vallásos hagyomány összebékítésére tesz érdekes kísérletet Russell Bjork, a Gordon College nevű amerikai keresztény főiskola teológusi végzettségű számítógéptudósa. A Mesterséges intelligencia és a lélek című 2008-as tanulmányában [pdf] konkrét szöveghelyek elemzésével rámutat: a Biblia értelmezése nem zárja ki azt, hogy az emberhez hasonlóan a gépek is önálló személyiséggé váljanak, de az erős MI megalkotása nem csökkentené az ember mint olyan értékét, mert nem abban keresendő az ember különlegessége, hogy hogyan van összerakva, hanem abban, hogy mi volt vele a célja annak, aki összerakta.

Bjork szerint ha elfogadjuk azt a felfogást, miszerint nem valamiféle belső emberi tulajdonságban mutatkozik meg az ember kitüntetett helye, hanem az Istennel való viszonyában, akkor az MI nemhogy nem kezdi ki a bibliai tanítást, hanem éppen hogy rávilágít a lényegére: megmutatja a vallásos embernek, hogy mekkora szüksége van Istenre, mert általa nyeri el a helyét és célját a teremtésben.

2. Honnantól intelligens egy gép? És meddig intelligens az ember?

Oké, tegyük fel, hogy az egyház befogadná az autonóm, öntudatos, valóban intelligens MI-t. Na de mikortól, honnan és miből lehet majd tudni, ha egyszer tényleg intelligens lesz az a gép? Ez azért is nehéz kérdés, mert gyakran nem ugyanazt értjük már az alapfogalmakon – intelligencián, értelmen, autonómián, szabad akaraton, öntudaton, intención – se.

John Searle, a Berkeley-i Kaliforniai Egyetem filozófusa szerint az, hogy egy gép kívülről intelligensnek tűnik, nem jelent semmit. A híres Turing-teszt és általában az MI-kutatás korlátaira a kínai szoba érvvel mutat rá. A gondolatkísérlet alanya egyedül ül egy szobában. Kívülről valaki egy cetlit csúsztat be az ajtó alatt, rajta kínai karakterekkel. A kísérlet alanya egy szót se beszél kínaiul, viszont van nála egy szabálykönyv, amely leírja, melyik jelre mit kell reagálni. Emberünk megkapja az utasítást, a szabályok alapján leírja a választ, majd kicsúsztatja az ajtó alatt. Egy kukkot se értett az egészből, de megoldotta a feladatot – viszont bárki, aki a szobán kívülről figyel, képtelen eldönteni, hogy a bent ücsörgő ember tud-e kínaiul, vagy sem. Searle ezzel azt igyekszik bizonyítani, hogy a mai értelemben vett intelligens gépek valójában nem értik azokat a problémákat, amelyeket sikeresen megoldanak.

Hasonló véleményen van Alva Noë is, szintén a Berkeley-ről. Szerinte azért nem kell attól tartani, hogy hamarosan túl intelligensek lesznek a gépek, mert egyelőre egyáltalán nem azok. Az órák is mérik a perceket, de valójában fogalmuk sincs, hány óra van, csak mi használjuk őket arra, hogy tudjuk, mennyi az idő. Ugyanígy a 2011-ben a Jeopardy! nevű műveltségi vetélkedőt megnyerő IBM Watson se játszott a vetélkedőben, nem válaszolt a kérdésekre, hanem a fejlesztői használták nagyon is konkrét feladatra.

Majd akkor kezdek aggódni, ha az IBM olyan gépeket gyárt, amelyek egy amőba tudatosságát produkálják

 – mondta Noë, aki szerint jelenleg inkább a gépek pszeudointelligenciáról lehet beszélni.

Mindeközben az MI fejlődése az emberi intelligencia megítélését se hagyja érintetlenül. Ahogy a gépek újabb és újabb, korábban meghódíthatatlanul emberinek tartott eredményt érnek el, ezek sorra kikerülnek az emberi intelligencia szférájából – hiszen még egy gép is képes rájuk –, és folyamatosan szűkül az embernek fenntartott kiváltságok köre.

A logika is valahogy így vált emberi privilégiumból a számítógépek működésének alapjává. Aztán jött a győzelem sakkban, műveltségi vetélkedőben, góban vagy éppen pókerben. Bár a maga idejében minden ilyen mérföldkő szenzációnak számít, mindig találunk egy következő, még fontosabb lépcsőt, és kitolódik a határ, ahonnan igazán emberinek tekintjük az intelligenciát – kicsit talán ahhoz hasonlóan, ahogy a fentebb idézett Russell Bjork szerint az MI segít kijelölni a vallásos ember valódi helyét a vallási narratívában.

Az MI-kutatás egyik megalapozója, Alan Turing is amellett érvelt, hogy ha nem tudjuk a viselkedése alapján megkülönböztetni a gépet az embertől, el kell fogadnunk autonóm lénynek. Héder Mihály szerint Turingot az a félelem vezérelhette, hogy valójában „egymásról se tudjuk, hogyan működik belülről, és ha megtagadjuk ezt a gépektől, akkor a következő lépés az lesz, hogy megtagadjuk egymástól is. Az újonnan megjelenő mesterséges intelligencia át fogja alakítani az ember önképét, csak az a kérdés, hogy abba a pozitív irányba-e, hogy egy vagyunk a többi intelligencia közül, vagy abba, hogy mondjuk az emberi pénztáros egy biorobot, mert létezik robot pénztáros is, és az ugyanolyan munkát végez.”

Daniel Dennett, a Tufts Egyetem kognitív filozófusa szintén közelítené egymáshoz a gépet és az embert, de éppen fordított irányból. Szerinte nem érdemes éles határt húzni a kétféle intelligencia közé, és amiatt aggódni, hogy a robotok túl emberiek lesznek, hiszen valójában az emberek alapvetően robotszerűek: mi magunk is sok százmilliárd tökéletesen öntudatlan alkatrészből (sejtekből) épülünk fel, és hajlamosak vagyunk túlmisztifikálni a saját öntudatunkat.

Héder Mihály szerint a nagy kérdést, hogy lesz-e egy gépnek lelke onnantól, hogy intelligens, valójában ki lehet majd kerülni, mert nincs olyan teszt, amit egy vallásos embernek minden kétséget kizáróan el kellene fogadnia.

„BME-s filozófiaórákon el szoktam végeztetni a Hans Moravec-féle agyprotézis-gondolatkísérletet” – meséli Héder. – Van az agyadban egy idegsejt, aminek vannak dendritjei, bemenetek, amiken ingereket kap, ezekből előállít egy válaszjelet, amit az axonján küld ki. Mi lenne, ha ezt lecserélnénk egy kis számítógépre, ami ugyanarra a bemenetre pontosan ugyanazt a kimenetet adja, beleértve még a kémiai transzmitterekre adott válaszokat is? Ha egyesével kicseréljük az összeset, az agyadban minden sejt egy ilyen mesterséges sejt lesz, de ugyanarra az ingerre ugyanazt a választ adja. Moravec azt kérdezi, hogy mit veszel észre, miközben ezt a műtétet hajtják végre, a koponyád nyitva, és egyesével cserélik le az idegsejtjeidet. Ezzel lehet nagyjából belőni, kinek milyen rejtett előfeltevése van.”

Héder szerint a legtöbben, a hallgatók legfeljebb kétharmada azt szokta erre mondani, hogy ugyanúgy kell működnünk tovább, mint addig, hiszen ha sikerül kiváltani az agy összes funkcióját gépekkel, akkor mi változna? „Lehet olyat találni, aki vallásos indíttatásból azt mondja, hogy ez csak a testi rész, de közben meghal a személy. Olyan is akad, aki szerint a kettő kompatibilis, tehát ezután ennek a gépnek lesz lelke. A gyakori viszont az, hogy nem tudnak igazi ellenérvet mondani.”

Szerintem a jövőben azt fogják erről gondolni, hogy ha az agya úgy működik, mint a miénk, akkor lehessen bankszámlája, tulajdona, személyiségi jogai, azon az alapon, hogy senki nem tud demonstrálható különbséget tenni.

„De ez egy filozófiai döntés lesz, úgyis meg lehet majd közelíteni a kérdést, hogy miért ne lenne csak imitációról szó, meg úgy is, hogy ha egyszer valaki nem tudja demonstrálni, hogy miben gyengébb vagy hiányosabb ez az intelligencia, akkor nincs oka arra, hogy megtagadjon tőle olyasmit, amit más intelligens ágensektől se tagadtunk meg.”

Szilárdi Réka a Szárnyas fejvadászt idézi ezzel a dilemmával kapcsolatban, ebben a filmben a Nexus 6 típusú replikánsoknak egy idő után gyakorlatilag lejár a szavatosságuk, hogy ne juthassanak el arra a szintre, ahol már a fenti kérdés eldöntését nem lehetne tovább halogatni: „Éppen azért vannak négy évre tervezve, mert ennyi idő után kezd kialakulni bennük az empátia és más érzelmek. Ettől a ponttól kezdve problematikus a létezésük, hiszen nem tekinthetők tovább puszta gépeknek, személyeknek kell őket tekintenünk morális és más értelemben is.”

3. Robotbűnök, közerkölcsök

Na de ha a vallás történetesen nyitna az MI felé, és valahogy abban is dűlőre jutnánk, hogy mikortól tekintjük öntudatra ébredtnek a gépet, akkor is ott van még a kérdés, hogy mire menne ezzel az egésszel ő maga. Lehetne-e mondjuk jobb keresztény, mint a vétkezésre hajlamos ember, ha valamilyen erkölcsi alapvetést következetesebben tartana be?

Hiszen ha azt feltételezzük, hogy az ember úgy tud létrehozni erős MI-t, hogy bele tudja programozni, hogy valamilyen konszenzuális erkölcsi rend szerint viselkedjen, akkor ez az MI elvileg nem is tudna bűnt elkövetni. Ez viszont járhatna bizonyos bonyodalmakkal.

Az embernél erény, ha valaki bűntelenül él, nem vétkezik, és ezt jutalmazza a vallás a maga eszközeivel, bűnbocsánattal, megváltással. De hogyha a vallás alanya nem is képes vétkezni, mert egyszerűen bele van égetve, hogy képtelen legyen rá, akkor a bűntelenség nem is számít többé erénynek. Társadalmi szempontból persze pozitív a mérleg, hiszen a lényeg, hogy senki nem követett el bűnt. Vallási szempontból viszont ha a gép nem tud saját szabad akaratából (már ha egyáltalán az embernek van olyanja) bűnt elkövetni, vagyis nem azért nem vétkezik, mert így dönt, akkor ezzel tulajdonképpen kivonja magát a vallási erkölcs szférájából, és a vallásossága céltalanná válik.

Héder Mihály szerint az ilyen fokú kontroll nem reális elvárás, mert egyszerűen nincs lehetőségünk asimovi törvényeket programozni az MI-be. A mai MI-kutatások jellemzően az idegrendszer biológiai modelljéről mintázott neurális hálókra és az ezeken alapuló gépi tanulásra építenek. „Ezeket nem programozzuk, hanem tréningeljük, azaz előáll egy olyan gép, amit senki nem explicit utasítások sorozatával hozott létre, ezért még csak ötletünk sincs arról, hogy a potenciálisan végtelen sokféle inputra éppen mit válaszolna, csak azt tudjuk, milyen kérdéseket milyen statisztikával válaszol meg – magyarázza Héder. – Ezért nem arról van szó, hogy a programkódban meg tudnánk mutatni, hogy hol van az a sor, ami megvéd attól, hogy megsemmisítsen minket a gép. Olyan érzése lehet az MI-kutatásban dolgozóknak, mintha lemondtunk volna valamiféle kontrollról, vagy elvesztettük volna, mert feketedobozzá vált az idegsejthálózaton alapuló gép.”

Holott annyiban mégse feketedobozról van szó Héder szerint, hogy bármikor belenézhetünk a rendszerbe, bármelyik szimulált idegsejtet megnézhetjük a több rétegű neurális hálóban, csak az egész működését nem látjuk át.

Nagyon hasonló a szituáció a szülő-gyerek viszonyhoz, csak kicsit ismeretlenebb, mert egy új fajjal van dolgunk.

„Viszont a gyereknél se mondhatjuk egy idő után, hogy a szülőt lehet felelősnek tekinteni. Ennek az a feltétele, hogy autonómiát tulajdonítunk a gyereknek. Ennek analógiájára a programozó is olyan mértékben tartható felelősnek, mint a szülő a gyerekéért. Lesz egy új személy ismeretlen, rejtett folyamatokkal meg szokásokkal, amitől esetleg félhetünk, de nem nagyon lehet mást csinálni.”

Na de akkor mégis milyen biztosítékaink lehetnek? Héder szerint az alapos tesztelés lehet a megoldás: más műszaki területekhez hasonlóan itt is ki kell dolgozni olyan tesztprotokollokat, amelyekkel biztosítható, vagy legalábbis megnyugtathatóan demonstrálható, hogy az intelligens gépek biztonságosak, mielőtt emberek közé engedjük őket. „Meg kell majd mutatni, hogy hányféleképpen teszteltük, például hogy ismeretlen helyzetekben, korábban nem tapasztalt szituációkban hogy viselkedik, és hasonlók.”

Nem is kell egyébként elmenni az erős MI-ig, már a közeljövő önvezető autóinál is felmerülnek olyan erkölcsi kérdések, hogy még ha a statisztikák szerint összességében kevesebb is lesz velük a közúti baleset, mi lesz, ha az egyes esetekben a gépnek kell életekről dönteni – például arról, hogy az autó saját utasa haljon-e meg, vagy a gyerekcsoport, akiket amúgy elütne?

Az ilyen szituációk Héder szerint nem is annyira fognak különbözni a mai helyzettől. „Ha ma veszel egy nagy, nehéz autót, valaki más meg egy olcsó kisautót, és frontálisan ütköztök, akkor neked alig lesz bajod, ő meg valószínűleg meghal, pedig a vásárláskor nem volt ilyen kérdés. Senki nem tudatosan így veszi az autókat, de valójában az autó kiválasztásában hozott döntés mellékhatása ma is az, hogy adott esetben nem én halok meg.”

Ez is csak egy olyan eset, ami az MI-vel kapcsolatban gyakori, hogy láthatóvá tesz lappangó morális problémákat, amik eddig is ott voltak.

„Technikailag megtehetnénk, de nem lesz olyan döntési lehetősége az autónak, hogy mit tegyen ebben a szituációban. Ez nem válaszolja meg az etikai kérdést, hogy mi történjen, ki haljon meg, de szerintem a tulajdonosát fogja védeni, mert különben nem lesz eladható.”

Mindez egyébként a jogrendszert is komoly kihívások elé állítja. Már elkezdtek olyan kérdésekkel birkózni a jogalkotók, hogy lehet-e elkövető nélküli egy bűneset, mikor vonható valaki felelősségre egy robot vétkei miatt, van-e értelme magát a robotot büntetni, vagy lehet-e elrettentő ereje a büntetésnek egy robot számára.

4. A teremtés joga

Eddig főleg arról volt szó, mihez kezdhet a vallás és a vallásos közösségek az intelligens gépekkel. Na de mihez kezdenek az emberrel, aki istent játszva létrehozza ezt az autonóm intelligenciát?

„Mindhárom monoteista vallásban Istené a korlátlan hatalom, ez viszont nem jelenti azt, hogy ezeken a vallásokon belül ne létezhetnének olyan csoportok vagy elképzelések, amelyek szerint az ember, mivel a szabad akarata és képessége is megvan hozzá, teremhet intelligens mesterséges élőlényt” – mondja Szilárdi Réka.

Héder Mihály Alan Turing egy hasonló gondolatát idézi fel abból a nagy hatású 1950-es cikkből, ahol először tette fel a híres kérdését, hogy tudnak-e a gépek gondolkodni. (Eredeti formájában pdf-ben itt olvasható.) „Turing azon tűnődik, hogy ha elég jó gépet építünk, akkor lehet, hogy az is kap majd lelket az úrtól, mert neki mindegy lesz, hogy fizikailag ki hozza létre.”

Természetesen más vallásokat se hagynak hidegen ezek a kérdések. A dalai láma például néhány éve arról beszélt: nem zárható ki, hogy a reinkarnáció a gépeket is érintheti, vagyis bennük is újjászülethet a tudat. Szilárdi szerint ez a buddhizmus koncepciójába és azon belül az úgynevezett dharma-tanba valóban bele is férhet.

Az MI létrehozását érdekes lehet összevetni az emberi klónozással, hiszen ebben az esetben is mesterségesen jön létre öntudatos lény, ráadásul ez annyiban radikálisabb is, hogy nem valamiféle új minőségről van szó, hanem a teremtés közvetlen utánzásáról. E kérdés kapcsán is igaz, hogy a keresztény csoportok megítélése nem homogén, de a katolikus egyház például egyértelműen elítéli az ember klónozását. A disznó-ember kimérával ugyanakkor ők is megengedőbbek, az erre irányuló kísérletekre állítólag maga Ferenc pápa bólintott rá. (Idén januárban létre is hozták az első ilyen hibridet.)

5. Apa, beteszed a húst a számítógépbe?

Mindeközben a gépek fejlődése mellett magát az embert mint biológiai lényt se hagyják érintetlenül a technológiai változások. Nemcsak a teremtés saját kézbe vételével feszegetjük a határokat, de azzal is, hogy a halhatatlansággal kacérkodunk.

Napjaink leginkább sci-fibe illő mozgalma a transzhumanizmus, amely azt hirdeti, hogy az evolúció a puszta biológiai korlátok elérésével még nem ért véget, a technológia eszközeivel továbbfejleszthető a testünk és az elménk, és egyfajta Ember 2.0-ként létezhetünk tovább. Az egyik leghíresebb transzhumanista a már emlegetett Ray Kurzweil, de szintén ismert például a magyar gyökerű amerikai filozófus, Zoltan Istvan is, aki a tavalyi amerikai elnökválasztással is kacérkodott, hogy több teret kapjon a futurisztikus nézetei népszerűsítésére.

A transzhumanisták által elképzelt biotechnológiai fejlődés egyrészt a testünk kiegészítését jelentheti – protézisekkel, csipekkel, nanorobotokkal –, ami persze felvet érdekes kérdéseket, de ma már mégis viszonylag ártatlanul vagy legalábbis felfoghatóan hangzik. Ennél jóval meghökkentőbb viszont a másik irány, vagyis hogy nem a testünket toldjuk meg gépekkel, hanem az emberi elmét töltjük fel a számítógépre.

A biológiai korlátok feszegetése egyébként közel sem napjaink transzhumanistáinak jutott először eszébe, sőt a vallásosság és az evolúciót kiterjesztő tudományos érdeklődés kapcsolata is gazdag hagyományokkal bír. Már a középkorban felmerült, hogy mi van, ha a bibliai próféciák nem természetfeletti történésekkel jönnek el, hanem maga az emberiség fogja őket beteljesíteni, méghozzá a tudomány segítségével:

• A 13. századi ferences szerzetes-tudós-alkimista Roger Bacon például az alkímia eszközeivel akarta felturbózni az emberi testet, és az életelixír segítségével valósította volna meg a bibliai feltámadást.
• A 19. században Nyikolaj Fjodorov ortodox keresztény filozófus, a kozmizmus atyja úgy képzelte, hogy az evolúció továbbfejlesztése hozza el az eddig élt összes ember feltámadását és az örök életet. (Mondjuk szerinte erre azért volt szükség, hogy felhagyhassunk végre a bűnös és haszontalan szexualitással.)
• A 20. század első felében Pierre Teilhard de Chardin jezsuita pap és elismert régész azt gondolta, hogy idővel ki fog alakulni egy egész világot behálózó közös tudat, a nooszféra (amiért mellesleg az internet megjósolását is szokták neki tulajdonítani), majd az evolúció a technológia segítségével az Omega-pont felé halad tovább. Ez az az evolúciós végpont, ahol minden dolog Istenben egyesül. Ezt az elképzelést szokás a modern transzhumanizmushoz és a szingularitás eljöveteléhez hasonlítani, bár valójában sok különbség is van a két gondolat között.

Az elmefeltöltés egyfelől azzal kecsegtet, hogy átvágja az emberi és gépi tudat különbségének gordiuszi csomóját, hiszen ha megvalósul, egyre kevésbé lehet éles határt húzni ember és gép között, vagy ahogy Kurzweil fogalmazott:

Hihetetlen mértékben kitágul majd annak a fogalma, hogy mit jelent embernek lenni.

Másfelől viszont az elgépiesedés felveti a kérdést, hogy kieshet-e a vallásos ember az Isten kegyéből, ha megszűnik az ő képéhez hasonlatosnak lenni. Arról nem is beszélve, hogy a halandóság ilyen megtréfálása nem ellenkezik-e a kereszténység alapvető tanításaival.

„Ha feltöltjük a tudatot, és az nemcsak egy pillanatnyi kimerevített állapotban létezik aztán, hanem továbbfejlődik, érik tapasztalatok, akkor a vallási megváltáskoncepciók problémássá válhatnak. Nincsen halál utáni állapot, mert nincs halál sem. Ha pedig nincs halál, akkor a keleti vallásokban a lélekvándorlás, a nyugatiakban az üdvtörténet válik kérdésessé. Ha a tudat benne ragad az anyagi világban, nincs végítélet, nem mérettetnek meg a tettek” – mondja Szilárdi Réka.

„A vallási elbeszélések organikusan fejlődnek az adott társadalmi berendezkedéssel, amelyben az emberi lét ki van szolgáltatva a halálnak, válságoknak, kollektív és egyéni kríziseknek.”

De ha mindez gyökeresen megváltozik, például úgy, hogy megszűnik a halál, az előbb-utóbb a vallások radikális átalakulásához vezetne.

A tudatfeltöltés egyébként a vallástól függetlenül is felvet érdekes kérdéseket Héder szerint: le lehet-e menteni belőlünk olyan állapotokat, amikor még szimpatikusak vagyunk, és öregkorunkban inkább azt visszatölteni az aktuális énünk helyett; lehet-e belőlünk egyszerre több példány; illetve átírhat-e a rendszergazda valamit velünk kapcsolatban? És ha még nem is valósul meg az elképzelés teljes egészében, ahogy Kurzweilék elképzelik, a problémák egy része akkor is előállhat, például hogy lehetővé válhat konkrét emlékek megtalálása és szerkesztése, így akár nemkívánatos rossz emlékek kitörlése is.

Egy jellemző ellenvetés az elmefeltöltéssel kapcsolatban, hogy ha csak a memóriánk, kognitív funkcióink kerülnek be a gépbe, az elég-e ahhoz, hogy a személyiség vagy bármilyen elvontabb minőség is továbbörökíthető legyen digitálisan. Hiszen a testünk más biológiai funkciói, hormonok, neurotranszmitterek és hasonlók is szerepet játszanak abban, hogyan viselkedünk, mit reagálunk valamire. Mi fogja garantálni például, hogy egy gép is tudjon valódi érzelmeket produkálni, ne csak előre betáplált reakciók közül válogasson, mert tudja, hogy adott szituációra mi az adekvát válasz?

Héder Mihály szerint egyrészt a tudatfeltöltés nem zárja ki a testműködést, hiszen aki ilyesmiben gondolkodik, általában úgy képzeli, hogy a test szerszámként továbbra is használható marad. Másrészt miért nem lehetne ezeket a biológiai funkciókat is kiváltani? „Inkább Marvin Minskyvel értek egyet, aki a The Emotion Machine című könyvében arról ír, hogy a racionalitás és az érzelem nem áll egymással szemben, az érzelmi képesség az intelligenciánk része, ez is egyfajta tudás. Ha mondanak egy embernek valamit, amire endorfin szabadul fel, és ettől boldog lesz, akkor ezt a reakciót is az agya állította elő, az endorfintermelést maga az agy indította be, az agyra is volt hatással, és az eredményt, a boldog viselkedést az idegrendszer produkálja. Ha egy mérnök az agyfeltöltésen gondolkozik, mondhatja, hogy ezt az egészet ki is lehet venni, nem feltétlenül kell az endorfin és a receptorok, ugyanez funkcionálisan más módon is elérhető” – mondja Héder.

A testi funkciók szerepének hangsúlyozásával tehát éppen ellentétes hatást érünk el. „Ez naturalizálja, vagyis természeti, biokémiai tényezőkre redukálja az érzelmeket, ami szerintem segíti azt az érvelést, hogy ezek kiválthatók, és ha jobban megértjük az érzelmi alrendszerünket, akkor digitalizálni is lehet majd. Ettől sokaknak csak hihetőbbé válik, hogy egyszer lehetséges lesz majd a tudatfeltöltés. De hát a modern tudomány így alakítja át a világképünket.”

Márpedig a világképünk kétségtelenül alakul, ennek az egyik extrém verziójaként pedig lassan maga a transzhumanizmus is kész vallássá dagad, amelyben a technológia hívői úgy várják a szingularitás eljövetelét, mint valami végítéletet, a tudatfeltöltés pedig ebben a narratívában az elragadtatás vonzó alternatívája lehet.

Egy korábbi, The Age of Spiritual Machines (A spirituális gépek kora) című könyvében maga Kurzweil is egy olyan „posztbiológiai jövőről” ír, amelyben a szingularitás elérése után „spirituális gépekké” válunk, az elménk pedig a számítógép digitális halhatatlanságában „támad fel”. A transzhumanisták egymás között is vitatkoznak azon, hogy az elme digitális halhatatlansága a biológiai test elhagyásával vagy éppen annak technológiai feljavításával és megőrzésével lehetséges-e – ami pedig azokra a keresztény vitákra emlékeztet, hogy a feltámadás csak a lélekre vagy a testre is vonatkozik-e.

Mindenesetre a kereszténység és a transzhumanizmus nem feltétlenül vetélytársak vagy zárják ki egymást. Olyannyira nem, hogy létezik már Keresztény Transzhumanista Szövetség is, amelynek az egyik alapítója a cikk elején idézett Christopher J. Benek is.

6. Elzárkózás vagy békülés?

Mindezek után felmerül a kérdés, hogy az MI késztetheti-e valamiféle önvizsgálatra a vallásokat, és milyen válaszlehetőségeik vannak.

„A civilizációnk történetében a premodern korszakot a vallásos narratíva hatotta át, míg a modern korszak fő világmagyarázó elve a felvilágosodással, illetve később a pozitivista tudományfilozófiával a tudomány lett – magyarázza Szilárdi Réka. – A 20. század közepére kiderült, hogy a vallás mégse tűnik el, ahogy azt a pozitivista tudomány jósolta. Ahogyan a posztmodern teoretikusai mondják, ekkorra eltűntek a monolitikus magyarázó elvek mítoszai. Vagyis felbomlott a hierarchia, a vallási és tudományos válaszok egymás mellé rendelődtek, és bizonyos vallási csoportok, egyházak lépést kívánnak tartani a tudományos fejlődéssel, míg mások nem.”

A tudomány és technológia fejlődése korábban is sokszor szembetalálkozott már az egyházzal, elég csak az űrutazásra, az evolúcióra vagy a heliocentrikus világképre gondolni. (Noha ahogy korábban Galilei kapcsán írtuk, tudomány és vallás legendás szembenállását az utókor néha hajlamos jócskán eltúlozni.)

Szilárdi az evolúció példáját hozza fel a tudományos eredmények kibékítésére a vallásos magyarázattal: a katolikus egyház egyrészt Szent Ágoston elképzelésére hivatkozik, miszerint Isten a teremtés csíráit helyezte el a világban; másrészt Alfred North Whitehead 20. század eleji filozófus folyamat-filozófiai modelljét alkalmazzák.

7. Mit tanulhatunk a robotoktól?

Bármennyire is szélsebesnek tűnik manapság a technikai fejlődés, azért van még némi idő ezeknek a kérdéseknek a megválaszolására. Már csak azért is, mert nemcsak hogy messze van még az erős MI, de Héder szerint ma még nem is igazán célja ez a cégeknek. „Ha a nagy cégek fejlesztéseit megnézzük, nem erre mennek rá, mert feltehetőleg azt gondolják, hogy nehéz üzletileg elképzelni. Nekik inkább az kell, hogy részintelligencia legyen, az viszont több millió példányban fusson, mondjuk a kereséseinken vagy a képek elemzésén. Ezekről meg a legelszántabb MI-pártiak se mondanák azt, hogy humán személyhez mérhető intelligens ágensek lennének.”

Ennek ellenére, sőt éppen ezért annak már most itt van az ideje, hogy a jövőbeli kihívásokra felkészüljünk. Mérnöki szempontból ezt célozza a roboetika néven összefoglalható, szerteágazó terület. Az egyik legbőkezűbb támogatója pedig éppen az az Elon Musk, aki már évek óta ijesztget az MI-vel mint egzisztenciális veszéllyel. Musk a nyíltság erejében bízik, az OpenAI nevű projektet éppen azért indította be, hogy az MI-fejlesztők megosszák egymással az eredményeiket, és egyúttal egymást is szemmel tarthassák.

Törvénykezési szinten is elérte már a téma az ingerküszöböt, az Európai Parlament például idén januárban kezdeményezte „a robotikára vonatkozó polgári jogi szabályok” uniós szintű kidolgozását, bevallottan azért, hogy megpróbáljuk elkerülni, hogy a fejünkre nőjenek az intelligens robotok.

A tudatfeltöltés persze ma még szintén fikció, de annyira nem is távoli, mint gondolnánk. Egy fonalféreg jóval egyszerűbb agyának idegsejtkapcsolatait például 2014-ben már sikerült szoftveresen kezdetleges formában leképezni, és egy legóautót irányítani vele.

Elon Musk ezen a területen is épp a közelmúltban aktivizálta magát, Neuralink néven új céget alapított, amellyel közvetlen kapcsolatot akar létrehozni az emberi agy és a számítógépek között, ami a tudatfeltöltés előszobája. Ezt a projektjét is az MI-vel kapcsolatos félelmei vezérlik, attól tart, hogy az általános MI megjelenésével az ember eljelentéktelenedhet, de erre nem a számítógépek módszeres szétverését látja megoldásnak, hanem éppen azt, hogy eggyé kell velük válnunk, mint mondta,

egy idő után a biológiai és a digitális intelligencia össze fog olvadni.

Ehhez viszont még nem elég gyors a kapcsolat köztünk és a gépeink között, ezen akar segíteni Musk. Szerint az agyunknak két rétege van: az érzelmekért, hosszú távú memóriáért és viselkedésért felelős limbikus rendszer; és a komplex gondolatokat, érvelést, hosszú távú tervezést irányító agykéreg. Ezt a kettőt egészítené ki egy harmadik, digitális réteggel, amely szerinte valójában már ma is megvan – hiszen ha a mobiljaink, számítógépeink nélkül maradunk, mintha a fél karunkat vágnák le –, csak egyelőre még közvetetten kapcsolódunk hozzá.

Ezen változtatna a Neuralink. Először egy súlyos agysérüléssel élőknek szánt terméket dobnának piacra, olyan négy év múlva, és Musk szerint nyolc-tíz év, amíg az egészséges átlagembereknek szánt eszközük elkészülhet. A szupercsapat magját már összeszedte, de a cikk írásakor még mindig keresnek embereket – ha ön is megváltaná a világot, itt jelentkezhet.

Más próbálkozások is futnak már agy-számítógép interfész fejlesztésére. Van olyan, ami a lebénult végtagokkal élőknek segítene újra járni, egy másik vakoknak adná vissza a látását. De már a Facebook is dolgozik a közvetlen agy-gép kapcsolaton, más kérdés, hogy ezt jó vagy rossz hírnek tekintjük-e.

Már csak egy kérdés maradt. Ha mindezek az erőfeszítések sikerrel járnak, és valahogy létrehozzuk az erős MI-t, a vallás pedig tárt karokkal várja, akkor vajon elfogadnák-e egyáltalán a mai vallásokat az intelligens robotok, vagy az egészet valami meghaladott emberi hóbortnak tartanák? Vagy inkább létrehoznák a saját vallásukat?

Ha az nagyképű gondolatnak tűnik, hogy istenként hozzunk létre autonóm szuperintelligenciát, akkor még inkább annak tűnik azt feltételezni, hogy lenne bármi értelme a magunk elképzeléseiről győzködni a nálunk idővel exponenciálisan intelligensebbé váló mesterséges létformát. Na és ha nem az lesz a kérdés, hogy mi mit tanítunk a robotoknak, hanem hogy ők mi újat tudnak nekünk tanítani?

„Láttam egyszer egy korai sci-fi-rövidfilmet, amiben építettek egy szuperszámítógépet. A történet szerint betápláltak minden emberi ismeretet, majd várták, hogy válaszoljon az élet nagy kérdéseire – meséli Szilárdi Réka. – A gép némi gondolkodási idő után nyomtatni kezdett, az emberek rendkívül izgatottak voltak, a főszereplő pedig hangosan olvasni kezdte a választ: a tízparancsolat szövegét. Véges emberi intelligenciával nem láthatjuk be, hogy a korlátlan információban miféle tudás szerveződik össze. Elméleti szinten nem zárható ki, hogy egy végtelenül intelligens lény vallásos válaszokat kezd adni.”

Egy véges lény soha nem fogja tudni elgondolni a végtelenséget.

(Illusztrációk: szarvas / Index)