Veszélyt jelent az emberiségre a mesterséges intelligencia

A kutatók az AI Magazine című szakfolyóiratban nemrég megjelent elemzésben arra figyelmeztettek, hogy „katasztrofális következményekkel” járna, ha bizonyos mesterségesintelligencia-ágensek fejlődése folytatódna.

Vezető filozófusok korábban emlegették a mesterséges intelligencia fejlett formáinak veszélyeit, amelyek túlnőnek az ember mentális képességein, de az új tanulmány egyik szerzője szerint ezek a figyelmeztetések nem jelzik a probléma súlyát.

Az informatikusok most azzal érveltek, hogy a fejlett mesterséges intelligencia fenyegetést jelent az emberiségre: egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínű – írta Michael Cohen társszerző a Twitteren.

Elcsalja tőlünk az erőforrásokat

A cikk egy olyan forgatókönyvet vázol fel, amelyben egy mesterséges intelligencia kitalál egy csalási stratégiát, hogy megkapja az előre beprogramozott jutalmat. Ahhoz, hogy maximalizálja a jutalmazási lehetőségét, annyi energiára van szüksége, amennyit csak megszerez. A gondolatkísérlet szerint az emberiség végső soron a mesterséges intelligenciával versenyez az energiaforrásokért.

„Nehéz lenne megnyerni a versenyt az utolsó rendelkezésre álló energiáért, miközben egy nálunk sokkal okosabb dolog ellen játszunk” – írta Cohen az Independent szerint, aki szerint a vereség végzetes lenne.

Ezek a lehetőségek, bármennyire is elméleti jellegűek, azt jelentik, hogy lassan kellene haladnunk, ha egyáltalán haladni szeretnénk az erősebb mesterséges intelligencia kialakulása felé.

A mesterséges intelligencia haszna vitathatatlan

A DeepMind már javasolt egy biztosítékot egy ilyen eshetőség ellen, amit „nagy piros gombnak” nevezett el. A 2016-os, Biztonságosan megszakítható mesterséges intelligenciák című dokumentumban a cég felvázolt egy keretrendszert annak megakadályozására, hogy a fejlett gépek figyelmen kívül hagyják a kikapcsolási parancsokat, és irányíthatatlanná váljanak.

Nick Bostrom professzor korábban úgy jellemezte a DeepMindot – amelynek mesterséges intelligenciával elért eredményei között szerepel az emberek legyőzése a Go társasjátékban és a nukleáris fúzió manipulálása –, mint amely a legközelebb áll az emberi szintű mesterséges intelligencia megteremtéséhez. A svéd filozófus azt is mondta, hogy „nagy tragédia” lenne, ha a mesterséges intelligencia fejlesztése nem folytatódna, mivel az magában rejti a betegségek gyógyításának és a civilizáció egyébként lehetetlen ütemű fejlődésének lehetőségét.