Gyilkos robotoktól tart a mesterséges intelligencia egyik atyja

Technikai ugrások terén az elmúlt évtizedek az internet és a böngészők elterjedéséről, majd az okostelefonokról szóltak, de az ezek okozta változások sehol sincsenek az ember szellemi képességeit megközelítő szoftveres modellektől, amelyek gyógyszerek fejlesztésétől az oktatásig minden területen áttörések sorához vezetnek majd. A fehérjék szerkezetének leírását ugyan nem annyira látjuk, mint a kiváló minőségű dezinformációt. A területen tevékenykedőket mindenesetre nem hagyja nyugodni a gondolat, hogy valami igazán veszélyes dologgá válhat, amin dolgoznak. 

Nem látom, hogy tudnánk megakadályozni, hogy rossz emberek rossz célokra használják

– fogalmazott az immár hivatalosan is az aggódók táborába lépő Hinton a The New York Timesnak adott interjúban.

Az ősapa

Hinton 1970-ben szerzett pszichológiadiplomát Cambridge-ben, pár évvel később már a neurális hálókat kutatta az Edinburghi Egyetemen, ahol 1978-ban szerzett PhD-t a mesterséges intelligencia kutatásával. A 80-as években a Carnegie Mellon Egyetemen tanított az Egyesült Államokban, de mivel az országban akkor csak a Pentagon adott pénzt mesterséges intelligencia kutatására, inkább Kanadában folytatta.

2012-ben hallgatóival, Alex Krishevskyvel és Ilya Sutskeverrel épített, a konvolúciós neurális hálózatra épülő mélytanuló rendszerük, az AlexNet megnyerte a ImageNet képfelismerő versenyét. Ez azért lett a mesterséges intelligencia történetének egyik fontos mozzanata, mert a két hallgató ezután a Google-nél folytatta, a keresőóriástól 2015-ben kilépő Sutskever pedig az akkor induló, azóta a mesterségesintelligencia-forradalom élvonalában haladó OpenAI kutatási igazgatója lett.

Hinton 2018-ban két kollégájával megkapta a számítástechnika Nobel-díjának tekintett Turing-díjat. Yoshua Bengióval és Yann LeCunnal együtt lettek hárman a mesterséges intelligencia alapító atyái. A kitüntetés a három tudós 80-as években kifejlesztett gépi tanulási technikáját díjazta: ez a neurális háló hiba-visszaterjesztéses tanulása, ami addig módosítja a mesterséges idegsejtek közötti kapcsolatokat, amíg a hálózat a várt eredményt nem produkálja. Az algoritmus a 2000-es évek elején ugyan kiment a divatból, a 2010-es évektől az 

és a mai gépi intelligenciák tanulásának alapját képezi.

Idegen agyat alkottunk

Hinton kezdetben úgy gondolta, hogy a Google és az OpenAI nyelvi modelljei nem érnek fel az emberi agy nyelvi képességeihez. Az egyre nagyobb adatbázisokon kiképzett szöveggenerátorok teljesítménye láttán azonban megváltozott a véleménye. Ma már úgy véli, hogy bizonyos értelemben továbbra sem érik utol az emberi intelligenciát, bizonyos területeken ugyanakkor meghaladják azt.

Lehet, hogy ami ezekben a rendszerekben történik, az sokkal jobb, mint ami az agyban történik

– mondja a tudós, aki szerint ez egyben igazán ijesztő, főleg, ha az elmúlt öt év hatalmas fejlődését előrevetítjük a következő öt évre.

Hinton úgy gondolja, hogy a Google az elmúlt években tisztességesen gyámkodott az általa fejlesztett gépi intelligencia felett, így az az emberiségre leselkedő veszélyként csak elszálltabb futurista nagyotmondásokban merült fel. 

és a Google üzleti működésének alapját képező internetes keresést vette célba a Binghez társított csevegőrobottal. A mesterséges intelligenciák piaci versenye így már nyílt küzdelem.

A professzor szerint az internetet nagyon rövid időn belül hamis fotók, videók és szövegek fogják elárasztani, az átlagos felhasználó számára felfoghatatlan lesz, mi igaz, és mi nem. A gépi elme a munkaerőpiacot is felforgatja, és kiszorítja a titkárokat, fogalmazókat és tolmácsokat. Az alapító atya aggodalmai tehát egybeesnek az eddig már megfogalmazott főbb veszélyekkel. Ezenkívül attól is tart, hogy a hatalmas adathalmazokból olyan viselkedéseket is elsajátít a gép, amire nem számítunk. A mesterséges intelligencia nemcsak önállóan generál kódot, de futtatja is azt, ami megidézi a Skynetet és a gyilkos robotokat – a fentiekből pedig már kiderült, hogy a tudós egyik fő etikai aggálya a technika katonai felhasználása.

Alig páran hitték, hogy ez az izé okosabbá válhat, mint az emberek. Legtöbben azt gondolták, hogy ez még jóval odébb van. Én is azt gondoltam, hogy még 30 vagy 50 év. Nyilvánvalóan ma már nem ez a véleményem.

Új világ jön

Az akadémikusok és cégvezetők nyílt levelét, amelyben a állami beavatkozást és a mesterséges intelligenciák fejlesztésének féléves moratóriumát követelték, Geoffrey Hinton ugyan nem írta alá – utóbb kiderült, hogy csak az időzítésen múlt, mert csak a Google-től való távozása után akart ilyen kiállásokhoz csatlakozni.

Nem mondta, hogy ott akarja hagyni a Google-t, de nem is nagyon lepett meg

– mondta az egykori kolléga, Yann LeCun, aki jelenleg a Meta mesterségesintelligencia-programjának tudományos vezetője.

Mindenesetre legutóbb csak a nukleáris fegyverkezés hajnalán léptek fel ilyen mennyiségben és minőségben az emberi civilizáció sorsáért aggódó tudósok. A hasonlóság sem véletlen: Hinton szerint a Microsoft és a Google küzdelme gyorsan globális versennyé alakulhat, aminek csak globális szabályok és egyezmények szabhatnak határt. Az atomfegyverek előállítása olyan ipari infrastruktúrát feltételez, ami az űrből is jól látható, mesterséges intelligenciát azonban tökéletes titokban is lehet fejleszteni.

Geoffrey Hinton – mint mondja – részben már megbánta életművét.

Azzal a szokásos kifogással vigasztalom magam, hogy ha én nem, valaki más biztosan megoldotta volna ugyanezt

– mondja.

(MIT Technology Review, The New York Times, The Verge)