![](https://indexadhu.hit.gemius.pl/redot.gif?id=nSCbubuYpDWJZLZs0TssLrbt33Lk5kbipuiZrkg89G3.g7/stparam=skrjjshgja/fastid=eeorncrnbsilkneetelidigetojp/nc=0)
Veszélyt jelent az emberiségre a mesterséges intelligencia
További Tech-Tudomány cikkek
A kutatók az AI Magazine című szakfolyóiratban nemrég megjelent elemzésben arra figyelmeztettek, hogy „katasztrofális következményekkel” járna, ha bizonyos mesterségesintelligencia-ágensek fejlődése folytatódna.
Vezető filozófusok korábban emlegették a mesterséges intelligencia fejlett formáinak veszélyeit, amelyek túlnőnek az ember mentális képességein, de az új tanulmány egyik szerzője szerint ezek a figyelmeztetések nem jelzik a probléma súlyát.
Az informatikusok most azzal érveltek, hogy a fejlett mesterséges intelligencia fenyegetést jelent az emberiségre: egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínű – írta Michael Cohen társszerző a Twitteren.
Under the conditions we have identified, our conclusion is much stronger than that of any previous publication—an existential catastrophe is not just possible, but likely. 3/15
— Michael Cohen (@Michael05156007) September 6, 2022
Elcsalja tőlünk az erőforrásokat
A cikk egy olyan forgatókönyvet vázol fel, amelyben egy mesterséges intelligencia kitalál egy csalási stratégiát, hogy megkapja az előre beprogramozott jutalmat. Ahhoz, hogy maximalizálja a jutalmazási lehetőségét, annyi energiára van szüksége, amennyit csak megszerez. A gondolatkísérlet szerint az emberiség végső soron a mesterséges intelligenciával versenyez az energiaforrásokért.
„Nehéz lenne megnyerni a versenyt az utolsó rendelkezésre álló energiáért, miközben egy nálunk sokkal okosabb dolog ellen játszunk” – írta Cohen az Independent szerint, aki szerint a vereség végzetes lenne.
Ezek a lehetőségek, bármennyire is elméleti jellegűek, azt jelentik, hogy lassan kellene haladnunk, ha egyáltalán haladni szeretnénk az erősebb mesterséges intelligencia kialakulása felé.
A mesterséges intelligencia haszna vitathatatlan
A DeepMind már javasolt egy biztosítékot egy ilyen eshetőség ellen, amit „nagy piros gombnak” nevezett el. A 2016-os, Biztonságosan megszakítható mesterséges intelligenciák című dokumentumban a cég felvázolt egy keretrendszert annak megakadályozására, hogy a fejlett gépek figyelmen kívül hagyják a kikapcsolási parancsokat, és irányíthatatlanná váljanak.
Nick Bostrom professzor korábban úgy jellemezte a DeepMindot – amelynek mesterséges intelligenciával elért eredményei között szerepel az emberek legyőzése a Go társasjátékban és a nukleáris fúzió manipulálása –, mint amely a legközelebb áll az emberi szintű mesterséges intelligencia megteremtéséhez. A svéd filozófus azt is mondta, hogy „nagy tragédia” lenne, ha a mesterséges intelligencia fejlesztése nem folytatódna, mivel az magában rejti a betegségek gyógyításának és a civilizáció egyébként lehetetlen ütemű fejlődésének lehetőségét.
![](https://indexadhu.hit.gemius.pl/redot.gif?id=nSCbubuYpDWJZLZs0TssLrbt33Lk5kbipuiZrkg89G3.g7/stparam=skrjjshgja/fastid=eeorncrnbsilkneetelidigetojp/nc=0)