Stephen Hawking óva int a mesterséges intelligenciától
További Tudomány cikkek
A mesterséges intelligencia megalkotása a legfontosabb esemény lesz az emberiség történetében - állítja egy tudóscsoport, aminek Stephen Hawking, valamint a Nobel-díjas Frank Wilczek is tagjai. A kutatók ugyanakkor leszögezik: a nagy esélyünkből az utolsó is lehet. Mindenkinek azon kell gondolkodni, hogy elkerüljük a fölösleges kockázatokat, de a témát mégsem veszik elég komolyan. Az Independentben megjelent közös cikket nagyjából csorbítatlanul közöljük.
Most, hogy játsszák a mozikban a hollywoodi sikerfilmet, a Transzcendenst, Johnny Depp-pel és Morgan Freemannel, sokféle szemszögből láttatva az emberiség jövőjét, csábító lenne úgy gondolni az intelligens gépekre, mint tudományos fantasztikumra. Pedig ez nagy hiba lenne - talán a legnagyobb a történelem során.
A mesterséges intelligenciával (AI) kapcsolatos kutatások egyre elterjedtebbek lesznek. A közelmúlt kulcsfontosságú eredményei, mint az önvezető autó, a Jeopardyt megnyerő számítógép, vagy a személyi asszisztensek, mint Siri és a Google Now csak a tünetei annak a hatalmas informatikai versenynek, amit az előre nem látott találmányok hajtanak, és egyre komolyabb elméleti alapokra épül. Az efféle eredmények valószínűleg eltörpülnek amellett, amiket a következő évtizedben láthatunk.
Fotó: Karwai Tang
A potenciális nyereség hatalmas: minden, amit a civilizáció kínál, az emberi elme terméke. El sem tudjuk képzelni, mit érhetünk el, ha ennek az elmének a tudását felnagyíthatjuk olyan eszközökkel, amiket az AI-fejlesztés biztosíthat. A háború, az éhezés és a szegénység felszámolását valószínűleg mindenki elég fontosnak tartaná. Egy mesterséges intelligencia létrehozása az emberiség történetének legnagyobb eredménye lenne.
Sajnos, valószínűleg az utolsó is, hacsak nem jövünk rá, hogy kerüljük el a kockázatot. Ami a közeljövőt illeti, a kormányok világszerte automatizált fegyverrendszerek telepítését fontolgatják, amik önállóan választhatnak és semmisíthetnek meg célpontokat. Az ENSZ és a Human Rights Watch támogatta az ilyen fegyverek betiltását. Középtávon - ahogy Erik Brynjolfsson és Andrew McAfee emlegették a Second Machine Age-ben – az AI-k átformálhatják a gazdaságunkat úgy, hogy jólétet és nagy változásokat hozzon.
Ha azonban előre tekintek, nem látok alapvető korlátokat abban, hogy mit érhetünk el. Nincs fizikai törvény, ami megakadályozhatná, hogy egyes részecskék ne rendeződhessenek olyan rendszerekbe, amik ne lennének legalább akkora számítási teljesítményűek, mint az emberi agy. Lehetséges, hogy egy robbanásszerű átmenet lesz, de ez valószínűleg máshogy zajlik majd, mint a filmeken. Ahogy Irving Good 1965-ben megállapította, az embernél intelligensebb gépek folyamatosan javíthatnak magukon, amíg el nem jön az, amit Vernor Vinge szingularitásnak, Johnny Depp filmbeli karaktere transzcendensnek nevez.
Fotó: outnow.ch
Könnyű elképzelni, ahogy a technológia okosabb lesz a pénzügyi piacoknál; ahogy jobb feltalálók lesznek az emberi kutatóknál; ahogy kitúrják az emberi vezetőket; ahogy olyan fegyvereket terveznek, amiket egyre kevésbé értünk. Bár az AI rövid távú hatásai attól is függenek, hogy ki irányítja azt, a hosszú távú hatások inkább arról fognak szólni, hogy bárki irányíthatja-e ezeket.
A kiszámíthatatlan előnyökből és hátrányokból eredő lehetséges jövőképeket jól ismerő szakemberek biztosítanák, hogy minden a lehető legjobban menjen? Tévedés. Ha egy fejlett idegen civilizáció üzenetet küldene nekünk, hogy hé, néhány évtizeden belül érkezünk, vajon csak annyit írnánk nekik vissza, hogy oké, hívjatok, ha ideértek, majd égve hagyjuk a lámpát?
Valószínűleg nem – pedig ez az, ami most történik az AI-vel. Bár valószínűleg a legjobb vagy legrosszabb dologgal nézünk szembe, ami az emberiséggel csak történhet, kevés komoly kutatást végeznek ezzel kapcsolatban, leszámítva néhány nonprofit szervezetet. Pedig mindannyiunknak fel kell tennünk magunknak a kérdést: hogy érhetjük el, hogy lefölözzük a hasznot és elkerüljük a kockázatokat?
Az eredeti cikk az Independentben jelent meg. A szerzők:
- Stephen Hawking fizikus (a Cambridge alkalmazottmatematika- és elméletifizika-tanszékének vezetője);
- Stuart Russell professzor (a kaliforniai Berkeley Egyetem komputertudományi szakértője, az Artificial Intelligence: A Modern Approach című könyv társszerzője);
- Max Tegmark fizikus (az MIT professzora, az Our Mathematical Universe társszerzője);.
- Frank Wilczek fizikus (az MIT professzora, a nukleáris energiákkal kapcsolatos kutatásaiért 2004-ben Nobel-díjat kapott).
Kövesse az Indexet Facebookon is!
Követem!
