Beszólt az OpenAI vezérének a Nobel-díjas

A gépi tanulás alapját képező neurális hálók, és így a ma már széles körben ismert, használt vagy éppen rettegett mesterséges intelligencia egyik atyja, Geoffrey Hinton a kedden megosztva neki odaítélt Nobel-díjjal tarsolyában még aznap arról mesélt egy sajtóeseményen, hogy büszke tanítványára, Ilya Sutskeverre, amiért az tavaly novemberben elzavarta az OpenAI vezérigazgatóját.

Az érthetőség kedvéért elevenítsük fel a történteket: a tudományos vezető Ilya Sutskever az OpenAI igazgatóságának tagjaival összefogva tavaly novemberben kirúgta a cég éléről a csodagyerek Sam Altmant, akivel a mesterséges intelligencia biztonságossága miatt volt személyes konfliktussá fejlődő nézeteltérésük. Ezt tetézte, hogy a mesterséges intelligencia piaca felizzott, és Altman ütötte a vasat serényen: hol céges rendezvényen ígért hajmeresztő dolgokat, hol saját chipgyártást szervezett. Elbocsátásakor felrótták neki, hogy az igazgatóság tagjainak elfelejtette kibontani az igazság minden részletét a tevékenységével kapcsolatban. 

A dolog azonban nem úgy sült el, ahogy Sutskeverék gondolták. A váratlan húzással csak felcsigázták a milliárdos befektetőt, a Microsoftot, és miután a cég teljes állománya felmondással fenyegetett, fordult a kocka, Altman visszatért, Sutskeverék pedig távoztak. Ehhez fogható belső harcok a Szilícium-völgyben egy évtizeddel korábban a Facebook körül, vagy jóval korábban az Apple környékén fordultak elő.

Hinton egykori tanítványa azóta saját biztonságra specializált mesterséges intelligencia céget alapított Safe Superintelligence néven, amelynek beindításához izmos egymilliárd dolláros támogatást kapott befektetőktől.

A tudós figyelmeztet

Korábban széles nyilvánosságot kapott, hogy amerikai pénzemberek – Warren Buffet és Elon Musk – szerint a mesterséges intelligencia olyan veszélyes, mint a nukleáris fegyverek. Ez sok szempontból csupán a figyelmet megragadó és 

Ugyanakkor felfedezhetők más természetű párhuzamok. Az egyik ilyen maga Geoffrey Hinton, aki egy olyan szerepbe helyezkedett, mint amilyenbe senki a Manhattan-tervben részt vevő Szilárd Leó óta, aki egykor a sajtóban kampányolt az atomfegyverek korlátozásáért.

Hintont – ahogy már korábban, a Svéd Királyi Akadémia bejelentésekor rögtönzött interjúban is jelezte – aggasztja, hogy a gondolkodást utánzó képességekkel felruházott gépeket pusztító célokra is fel lehet használni. Egy tévés interjúban úgy vélekedett, hogy az embert idővel manipulálni kezdheti a fejére növő, okosabbá váló mesterséges intelligencia. Csatlakozott is a mesterséges intelligencia fejlesztésének felfüggesztését követelő nyílt levélhez.

Tevékenységével kapcsolatban egy másik nézőpontot vetett fel a neves MIT műszaki egyetem lapja, a Technology Review szerzője, aki szerint a 76 esztendős Geoffrey Hinton lényegében a fantasztikus elképzeléseken alapuló, divatossá váló egzisztenciális rettegés, a doomerizmus mozgalmának vezető figurája. A probléma szerintük az, hogy a robotok és háztartási gépek lázadásával kapcsolatos bohókás rémképek mögé állítja immár egy Nobellel megfejelt tudományos tekintélyét. 

A svéd akadémikusok vélhetően nem sejtették, hogy nem annyira a tudományos vívmányok, de az általa keltett érzelmi hullámok miatt is a mesterséges intelligencia fejlesztése spontán török szappanoperába fordul.

You could be mine

Különösen szerencsésnek tartom magam, amiért sok okos tanítványom volt – nálam okosabbak – akik működésbe hozták a dolgokat. Ők nagyszerű dolgokat értek el. Különösen büszke vagyok rá, hogy egyik tanítványom kirúgta Sam Altmant

– fogalmazott Hinton.

Sutskever 2013-ban szerzett informatikai PhD-t a Torontói Egyetemen Hinton doktori hallgatójaként. Az induló OpenAI nagy hangsúlyt helyezett a biztonságra, ennek fontossága azonban átértékelődött a hatalmas profit ígéretének fényében.

Idővel kiderült, hogy a Sam Altmant sokkal kevésbé érdekli a biztonság, mint a profit, és ez szerintem nem szerencsés

– vélekedett Hinton.

Izgatottan várjuk a folytatást. 

(Business Insider, MIT Technology Review, TechCrunch)