Nem mostanában épülnek terminátorok

2008-ban az amerikai AAAI szervezet (Association for Advancement of Artificial Intelligence) úttörő kezdeményezésbe fogott: huszonöt kutató – számítástudományi, az mesterségesintelligencia-kutatás morális és szabályozási kérdéseivel foglalkozó szakemberek, robotikusok – részvételével a mesterséges intelligencia jövőjét, hatásait és kockázatait vizsgáló beszélgetést szervezett.

A tudósok rövid és hosszú távú fejlesztésekről, realitásról és sci-fibe illő elképzelésekről, kivitelezhető és nagyon futurisztikus forgatókönyvekről egyaránt elmélkedtek. Az AAAI igazgatója, Eric Horvitz által vezetett kollektív agytornát telefonbeszélgetésekkel, telekonferenciákkal kezdték, majd februárban egy csendes észak-kaliforniai kisvárosban, az óceánparti Asilomarban hétvégi vitára és konszenzuskeresésre össze is gyűltek. Egyéves munkájukról, a konklúziókról a július 11-17. közötti, Pasadenában rendezett nemzetközi MI-konferencián számoltak be.

Asilomarra azért esett a választás, mert szolgált már helyszínül hasonló elmélkedésnek – 1975-ben biológusok, fizikusok, jogászok stb. ugyanott gondolkodtak el a DNS-kutatások jövőjéről, veszélyeiről, az akkor még igencsak tudományos-fantasztikumnak tűnt genetikus tervezés lehetőségeiről.

Sokoldalú géptudósok szakbarbárok helyett

Az akkori genetikával szemben a mesterséges intelligencia ma már hétköznapi valóság: otthonunkban, kertünkben robotporszívók és fűnyírók szorgoskodnak, döntéshozó programok segédkeznek komoly felelősséggel járó feladatok elvégzésében, a hadászatban és a katasztrófa-elhárításban egyre fontosabb szerepet játszanak az MI-alkalmazások.

Az alapkihívások komplex problémakörökké váltak, ugyanakkor a jelenlegi kutatások részterületekre, egy-két-három részterület esetleges szintézisére összpontosítanak. Vagyis „szakbarbárokat” teremtünk. Az internet sem öntudatos globális agy; szó sincs még a nagy álomról, az emberszintű gépi intelligencia, az önmaguktól fejlődő masinák megvalósulásáról.

A panel valamennyi résztvevője egyetértett abban, hogy az emberszintű MI – szerteágazó területeken értelemmel és felelősséggel tevékenykedő rendszer – elvileg kivitelezhető. Hogy mikor, az illetően megoszlottak a vélemények. Legoptimistább becslések szerint húsz év múlva, míg a borúlátóbbak ezer évet prognosztizáltak.

Kizártnak tartják a Ray Kurzweil által oly gyakran hirdetett MI Szingularitás, azaz a még intelligensebb gépeket építő intelligens gépek láncreakciószerű elterjedésének lehetőségét. Elméletileg persze ez bekövetkezhet, de az exponenciális növekedés és az MI-robbanás közeljövőbeli valószínűsége elenyésző. Egyelőre nem is futnak gépek gép általi szaporodását célzó projektek.

Identitástolvaj mobilvírusok

Veszélyes jelenség lehet azonban az ember digitális világbeli viselkedését utánzó rosszindulatú programok (malware-ek) megjelenése. Elvben elképzelhető, hogy identitástolvajok a felhasználó minden lépését (hívás, sms, email, bankügyletek) csendben, észrevétlenül monitorozó vírust küldenek egy okostelefonra, majd miután a program jól „megtanulta a leckét,” minimális külső irányítással, vagy anélkül cselekszik úgy, mint a tulajdonos. A konferencia résztvevői szerint fejleszthető ilyen vírus. Mivel a ma számítógépként funkcionáló készülékek elég bonyolultak – okostelefonokon több ezer soros kódok futnak –, és még bonyolultabbak lesznek, mindig lehet találni rajtuk réseket.

„Potenciálisan nagyon hatékony technológiákról van szó, amelyek jó és rossz célokra egyaránt felhasználhatók” – állítja a malware-ek mellett a túl komplex rendszerek veszélyeit is hangsúlyozó Horvitz. Annyira bonyolulttá és átláthatatlanná válhatnak, hogy egyszerűen nem fogjuk érteni a működésüket, elveszünk bennük. Ezért nemcsak a lehetőségek óriásiak, hanem a fejlesztők felelőssége is.