A gépek nemcsak a munkánkat veszik el, a háborúinkat is

A mesterséges intelligencia társadalmi hatásairól rendezett telt házas beszélgetést az ELTE Lágymányosi Campusán a TEDxBudapest Klub, méghozzá rangos résztvevőkkel: a moderátor két beszélgetőtársa Martin Ford jövőkutató volt, illetve Porkoláb Imre, aki a NATO Stratégiai Parancsnokának képviselője a Pentagonban.

A beszélgetésnek két fő csapásiránya volt, igazodva a két vendég szakterületéhez: egyrészt hogy az egyre okosodó gépek hogyan alakítják át a munka világát; másrészt hogy a hadviselést mennyiben változtatják meg – ha úgy tetszik, a civil és a katonai munkahelyek jövőjéről szólt az este.

Ford a Szilícium-völgyben, Porkoláb a Pentagonban járatosabb, elő is került a két fejlesztési központ viszonya. Ford szerint korábban leginkább a hadseregnél folytak a legfontosabb fejlesztések, ma már a nagy techcégek járnak élen az innovációban, ami egyébként elég komoly biztonsági kérdéseket is felvet. A DARPA, vagyis az amerikai védelmi minisztérium kutatási részlege főleg alapkutatásokat végez, ezeknek inkább 20-30 év múlva lesz érezhető hatása. Persze rövidebb távú kutatásokat is folytatnak, de ezen a téren a Szilícium-völgy valóban élen jár, és több pénzt is önt a fejlesztésekbe, ezért a hadseregnek is van mit tanulni tőlük, hatékonyabb innovációs ökoszisztémát kell kialakítaniuk.

De most tényleg elveszik a gépek a munkánkat?

Nem nagyon lehet manapság úgy MI-ről beszélgetni, hogy ne kerüljön elő ez a kérdés. Az mára evidencia, hogy az MI elterjedése alapjaiban fogja átalakítani a munkaerőpiacot, bár arról intenzív vita folyik, hogy ez mennyi és milyen munkahely megszűnésével jár, és kiket fog főleg érinteni. Annyi bizonyos, hogy nem a munkát általában veszik el a robotok és algoritmusok, hanem olyasmit csinálnak meg, ami automatizálható, ezért valójában nincs is ránk szükség az elvégzéséhez.

Ez nem azt jelenti, hogy munkanélkülivé kell válnunk és haszontalanok vagyunk, hanem éppen azt, hogy kevésbé mechanikus, kreatívabb munkák felé fordulhatunk. Ehhez viszont tovább vagy át kell képezni magunkat, és a dolog éppen azért járhat rövid távon tényleg komoly társadalmi feszültséggel, mert erre nem mindenki lesz képes. (Ami nem is feltétlenül az ő hibájuk, hiszen nem olyan oktatási rendszerben szocializálódtak, amely a folyamatos tanulásra, az önképzésre sarkallt, és így nem is sajátították el az ehhez szükséges képességeket.)

Ez Ford egyik központi témája is, de szerinte a kérdés valójában két kérdés, mert a munkának két fő funkciója van: bevételforrás és elfoglaltság.

Nem csak most beszélt erről, hanem a pár hónappal ezelőtti TED-előadásában részletesebben is. Ahogy akkor felidézte, egyáltalán nem új keletű divat a munkahelyeinkért aggódni, hiszen már a ludditák is a munkagépek hatalomátvételétől tartottak jó kétszáz évvel ezelőtt. Egy 1964-es, az akkori elnöknek készült jelentés pedig már akkor arra jutott, hogy az Egyesült Államok a gazdasági és társadalmi összeomlás szélén áll, mert az ipari automatizáció milliók munkáját veheti el. Aztán újra és újra megkongatták a vészharangot, de mivel ez rendre téves riasztásnak bizonyult, kialakult egy pozitív narratíva: megszűnhetnek ugyan munkahelyek, de a technológiai fejlődés mindig újakat is teremt, amelyekről idővel bebizonyosodik, hogy még jobbak is, mint az előzőek.

Az egyik különbség, hogy a technológiai fejlődés olyan hosszú ideje folyik exponenciális ütemben, hogy előbb-utóbb tényleg elkerülhetetlenül olyan helyzetben kell találnunk magunkat, amire nem vagyunk felkészülve. A másik különbség, hogy a munkánkra pályázó gépek most először kezdtek el tényleg kognitív képességekkel rendelkezni. Na nem a terminátoros-apokaliptikus értelemben, hanem abban, hogy már valóban képesek meghozni bizonyos döntéseket, és mindenekelőtt tanulni.

Hajlamosak vagyunk azt gondolni, hogy csak a repetitív, rutinszerű tevékenységek vannak veszélyben, pedig valójában a kreatívabb, intuitívabb munkákat se kerüli el az MI-hullám: könyvelők, pénzügyi elemzők, újságírók :(, ügyvédek, radiológusok és hasonló szellemi munkások találhatják magukat a közeljövőben a gyári munkásokkal hasonló helyzetben. Sőt lehet, hogy az értelmiségi munkák egy részét még könnyebb is automatizálni, mint egyes fizikai munkákat – állítja Ford.

Mindez pedig nemcsak egyéni, de társadalmi szinten is problémákhoz vezethet, hiszen ha nincs elég munka, csökkennek a fizetések, az embereknek nem lesz miből költeni, így nem lesz, aki megvegye a megtermelt termékeket és szolgáltatásokat. És ha egyes rétegeknek sikerül is jól venni az akadályt, Ford szerint elég valószínű, hogy a folyamatban növekedni fognak az vagyoni egyenlőtlenségek.

Ford szerint ennek legjobb módja a sokat vitatott alapjövedelem, ami persze szerinte se egy minden nyavalyát varázsütésre orvosló csodaszer, kísérletezni kell majd vele, és finomítgatni. Például úgy, hogy ösztönzőket építünk bele: több járjon azoknak, akik elvégeznek egy iskolát, jutalmazza a rendszer a közösségi munkát és a környezetvédelmet, és hasonlók. Ford szerint az alapjövedelemmel kapcsolatos kritikák fővonulata az szokott lenni, hogy fenntarthatatlan, mert túl sok haszonélvezőt kellene eltartania túl kevés embernek – manapság viszont egyre inkább éppen az indokolja az alapjövedelem megfontolását, hogy egyre kevésbé lesz szükség emberekre ennek a kiterjesztett szociális hálónak a fenntartásához.

Ugyanezek az ösztönzők abban is segíthetnek Ford szerint, hogy mihez kezdjünk magunkkal, hogyan találjunk célt és értelmet a mindennapokban, ha egyszer dolgozni nem kell (nem lehet) majd annyit, mint manapság.

Ember, robot, két jó barát

Porkoláb Imre szerint a munkakérdés bevételi oldalát lesz könnyebb megoldani, ő erre az alapjövedelem mellett például a robotok megadóztatását is jó iránynak tartja. Az igazi kihívás inkább az, hogy mit fogunk kezdeni magunkkal.

Ő a katonai példák alapján az ember-gép együttműködésben látja a megoldást, vagyis azt kell megtalálni, hogy tudunk a gépekkel leginkább csapatként együttműködni, kiegészíteni egymást. Az amerikai hadsereg 2014-ben meghirdetett fejlesztési stratégiája, az úgynevezett Third Offset Strategy is az ember-gép interakcióra összpontosít, a géppel akarja fokozni a katonák helyzetismeretét és teljesítményét.

Példa erre az F–35-ös vadászgépek pilótáinak 360 fokos virtuális látképet adó high-tech sisakja, vagy a leginkább Vasember páncéljára emlékeztető védőruha. De ugyanez a civil életben is tetten érhető a különféle agyimplantátumokon és gondolattal irányítható robotvégtagokon.

Porkoláb idézte az ember géppel szembeni első nagy vereségét elszenvedő Garri Kaszparovot is. Az egykori (és idén visszatérő) sakkvilágbajnok ma már szintén az együttműködésben hisz, szerinte a számítógép ezentúl mindig könnyedén legyőzi a sakkmestert, de a sakkmesterrel összefogó számítógép mindig le fogja győzni az egyedül versenyző számítógépet.

Ford szerint a kreativitás, az empátia és az emberi kapcsolatokat igénylő feladatok felé kell fordulni, mert ez az, ahol a gépek még jó sokáig nem rúghatnak labdába. Na meg nem árt fejben is a folyamatos tanulásra berendezkedni.

Automatizált háború

Az automatizálási láz nemcsak a civil, de a katonai világot is felforgatja. Ennek leglátványosabb példája a robotrepülők általánossá válása: Porkoláb Imre szerint ma már több drónpilóta van az amerikai hadseregben, mint hagyományos, és a több mint tízezer ember nélküli repülő mellett egyre több a távvezérlésű vagy önjáró földi és vízi jármű is.

Az automatizált fegyvereket és az MI harcászati felhasználását hagyományosan sok kritika éri. Porkoláb NATO-tisztként nyilván úgy gondolja, hogy a drónok alkalmazása megfelelően szabályozott és világosan kijelölt keretek között zajlik. Az amerikai hadseregben például alapelv a human-in-the-loop, vagyis hogy az ember mindig része a döntéshozatali folyamatnak, a gépek sose kapnak szabad kezet. (Teljes automatizációról szerinte ma csak a kibertérben lehet beszélni, ahol bizonyos esetekben felügyelet nélkül harcolhatnak egymás ellen az algoritmusok.)

Ugyanakkor szerinte is van ennek veszélye, mégpedig az, hogy leviszi a háború belépési küszöbét, és elmossa a béke és háború közti szürke zóna határait azzal, hogy “háború” nélkül is lehetővé tesz légi csapásokat.

De nemcsak harci drónok segítik a katonákat, szállításra, orvosi ellátásra, felderítésre is használják őket – és egyre inkább a civil mindennapokba is berepülnek, elég csak Donald Trump amerikai elnöknek a héten bejelentett gazdasági drónprogramjára gondolni.

Martin Ford szkeptikusabb ebben a kérdésben, szerinte elkerülhetetlenül a teljes automatizáció felé haladunk, amire példa a Wall Street pénzügyi algoritmusainak emberi beavatkozás nélküli döntéseken alapuló kereskedelme, annak minden veszélyével.

Na és mi van, ha egy gép hibázik, ki a felelős? Porkoláb szerint a kérdés már csak azért se újdonság, mert drónfejlesztések például már a második világháború idején folytak – ugyanakkor ez nem csak a hadsereget érintő probléma, elég csak a Tesla félautomata robotpilótáját is érintő halálos balesetre gondolni. Mindez egyébként a jogrendszert is komoly kihívások elé állítja. Már elkezdtek olyan kérdésekkel birkózni a jogalkotók, hogy lehet-e elkövető nélküli egy bűneset, mikor vonható valaki felelősségre egy robot vétkei miatt, van-e értelme magát a robotot büntetni, vagy lehet-e elrettentő ereje a büntetésnek egy robot számára.

Ford szerint viszont túlságosan az olyan elvi-erkölcsi kérdésekkel vagyunk elfoglalva, hogy a gép hogyan döntsön, ha valakit mindenképpen el kell ütnie, és hasonlók, miközben arról hajlamosak vagyunk elfeledkezni, hogy az önvezető autók elterjedésével összességében biztonságosabbak lesznek az utak.

Márpedig ha valóban így lesz, akkor a munkáját elvesztő százezernyi sofőrt is valamivel nehezebb lesz sajnálni.