A mesterséges intelligencia keresztapja is óv a veszélyektől

Mérő László azt mondta, nem érti, hogy mitől veszítenénk el a kontrollt a gépek felett. „Csak rajtunk múlik, hogy mindig legyen rajtuk egy kikapcs gomb, és mindig fogunk tudni gondoskodni arról, hogy ez ­ellen a gomb ellen ne tudjanak védekezni. Mi építjük őket akkor is, ha bizonyos feladatokban már ma is sokkal értelmesebbek nálunk. Ezzel együtt a veszély mégis valós. A televízión is van kikapcs gomb, mégis sokan nem képesek azt megnyomni akkor sem, ha halálosan unják az összes műsort. Nem a mesterséges intelligencia fejlődésétől kell hát félnünk, hanem saját magunktól.”

Hát ebben van igazság, de Yoshua Bengio, aki a Meta-tudós Yann LeCunnal és a Google korábbi mesterségesintelligencia-kutatójával, Geoffrey Hintonnal együtt megkapta a Turing-díjat, a számítástechnika „Nobel-díját”, amikor még az IBM-mel és a Microsofttal dolgozott, most mégis szkeptikus.

Úgy véli, az MI károsíthatja a társadalom szerkezetét, és nagyon is kockázatos, ezért is dolgozik az MI biztonságáról szóló nemzetközi tudományos tanácsadó testület elnökeként. A Live Science videóhívásban faggatta aggályairól, és ő elmondta, tagadhatatlan, hogy az MI katasztrofális következményekkel járhat ránk nézve, de bizonyos műszaki megoldásokat beépítve korlátozhatnánk.

Láttuk már, hogy az MI-t használták az Egyesült Államok választási kampányában, és ez csak rosszabb lesz, ahogy fejlesztjük tovább.

Egy nemrég készült tanulmány kimutatta, hogy a ChatGPT-4 sokkal jobban működik az emberek meggyőzésében, mint maguk az emberek. Azt is tesztelték, hogy a rendszerek hogyan segíthetik a terroristákat, és a legutóbbi ChatGPT-verzió a kockázatot az alacsonyról közepesre emelte. Két nagy rizikója van: az egyik az emberi kontroll elvesztése – mert ha a szuperintelligens gépeknek önfenntartási céljaik lesznek, akkor elpusztíthatnak minket, hogy ne tudjuk kikapcsolni őket. A másik veszély, hogy segítségével átveszi(k) valaki(k) az emberiség irányítását, és jön egy globális diktatúra. Ahogy Yuval Noah Harari is írta: „a mesterséges intelligencia és gépi tanulás fejlődésével olyan tökéletes totalitárius rendszer építhető, amilyet még nem láttunk korábban”.

Titkos versengés

Az EU megalkotta a mesterségesintelligencia-törvényt, ahogy Biden is az MI-ről szóló végrehajtási rendeletet, de ez még kevés, bár jó irány. A cégek még mindig egymással versenyeznek, és titkolják fejlesztéseiket, az USA pedig Kínával konkurál, és a legnagyobb félelme is az, hogy Kína legyőzi.

A neurális hálózatok lenyűgöző alkalmazásokkal rendelkeznek, de nem alkalmazkodnak jól a be nem gyakorolt helyzetekhez. Sokkal több adatra van szükségük, mint az embereknek, de Bengio mégis úgy véli, már csak 5 év, és megtörténik az emberi intelligencia és az MI képességei közötti szakadék áthidalása. Állítja,

ha már függőségbe kerülünk velük, elveszíthetjük az irányítást felettük, a társadalom és életünk olyan sok területét fogják kontrollálni, hogy képtelenség lesz megszabadulni tőlük és kihúzni a dugót.

A The Guardian nemrégiben arról számolt be, hogy a Google, az Apple, a Meta és a Microsoft adatközpont-kibocsátása valószínűleg 662 százalékkal magasabb, mint állítják. A Bloombergtől pedig azt is tudjuk, hogy a mesterséges intelligencia adatközpontjai a fosszilistüzelőanyag-infrastruktúra újjáéledését hozták.

Az áram ára

A legnagyobb modellek betanításához szükséges villamos energia mennyisége évről évre nő, és a kutatók úgy vélik, minél nagyobb modelleket készítenek, annál okosabbak, és annál több pénzt keresnek. Ennek az intelligenciának a gazdasági értéke olyan nagy lesz, hogy az áram árának tízszeresét kell majd fizetni mindenkinek. A bolygón termelt elektromosság nagy része ezekre a modellekre fog menni, és nem megújuló energiából származik majd.

És hogy miben rejlenek az MI fő veszélyei? Soroljuk:

• kibertámadásokra használhatók,
• biológiai fegyvereket tervezhetnek,
• propagandát terjeszthetnek,
• képesek lehetnek más gépekre vagy az internetre másolni magukat a fejlesztők parancsai ellenére.

De a baj Bengio véleménye szerint az, hogy ellentét feszül azok között, akik a gépeket építik, építtetik, nagy vagyonra számítanak és tesznek szert, egymással is versenyeznek, és azok között, akik a biztonságot tartják szem előtt. És itt van a már említett stressz is, hogy a Nyugat lemarad Kína mögött, ha sokat óvatoskodik. Kína akkor pedig a Nyugat ellen használhatja a technológiát.