Nyílt levélben követelik a mesterséges intelligenciák fejlesztésének felfüggesztését

Lapzártakor több mint ezerszázan írták alá azt a nyílt levelet, amely a GPT-4-nél erősebb mesterséges intelligenciák betanításának azonnali, 6 hónapig tartó felfüggesztését követeli.

A kortárs MI-rendszerek mostanra az emberekkel versenyeznek általános feladatokban, ezért fel kell tennünk a kérdést: Engedjük-e, hogy a gépek propagandával és valótlanságokkal árasszák el információs csatornáinkat? Automatizáljunk-e minden munkát – azokat is, amiket szívesen végzünk? Kifejlesszünk-e nem emberi értelmet, ami végső soron okosabb és népesebb lesz, elavulttá tesz és lecserél minket? Kockáztassuk-e, hogy elveszítjük a civilizációnk feletti uralmat? Ezeket a döntéseket nem technológiai cégek vezetőinek kellene meghozniuk. Az erős mesterséges intelligenciát csak akkor lenne szabad kifejleszteni, amikor biztosak vagyunk benne, hogy hatásaik pozitívak és veszélyeik kivédhetők

– áll a levélben.

A kezdeményezés amellett, hogy a fejlesztés felfüggesztésére szólítja a területen tevékenykedő cégeket, úgy fogalmaz, hogy ha ezt mégsem tartanák be önként, akkor az állami hatalommal kellene kihirdetni és betartani a moratóriumot.

Leszögezik, hogy nem a mesterséges intelligencia fejlesztésének általában vett mesterségesintelligencia-fejlesztés leállítását követelik, hanem meg kívánják fékezni a piacon kialakult veszélyes versenyt, amely 

A féléves szünetet arra használnák fel, hogy független szakértők bevonásával később betartatni kívánt biztonsági protokollokat dolgozzanak ki. A levél szerint szükséges a fejlesztőket felügyelő, kifejezetten a mesterséges intelligencia ellenőrzésére szolgáló hatóságok felállítása, a rendszerek auditálása és engedélyeztetése, az MI által okozott károk jogi helyzetének tisztázása, közfinanszírozott biztonsági kutatások indítása, a mesterséges intelligencia gazdaságot és politikát felforgató hatásának csökkentését célzó intézmények létrehozása.

A nyílt levél azzal zárul, hogy az emberiségre és a mesterséges intelligenciára fényes jövő vár, de ahhoz, hogy „a mesterséges intelligencia hosszú nyarát” élvezhessük, meg kell állnunk, 

Az aláírók között van Elon Musk techmogul, Tesla-, SpaceX- és Twitter-tulajdonos, Steve Wozniak, az Apple alapítója, Yuval Noah Harari író, a Jeruzsálemi Egyetem professzora, Mex Tegmark író, az MIT professzora. Nagy számban szerepelnek a jelentősebb egyetemek professzorai, a DeepMind kutatói, a Stable Diffusion képgenerátort fejlesztő Stability AI vezérigazgatója, a Meta és a Google munkatársai és magánemberek is.

Az aláírók körül hiányoznak ugyanakkor a GPT-4 nyelvi modellt fejlesztő OpenAI vagy a cégből kivált szakemberek által alapított Anthropic munkatársai.

(Future of Life Institute)

(Borítókép:  Chip Somodevilla / Getty Images)