Az embereknek végre fel kellene eszmélniük! – figyelmeztet a mesterséges intelligencia magyar kutatója

Elon Musk véleménye, hogy a mesterséges intelligencia (MI) fejlesztésének jelenlegi üteme túlságosan gyors és veszélyes. 2023 elején egy nyílt levelet írt alá, amelyben több tudóssal és technológiai vezetővel együtt azt követelte, hogy a legfejlettebb MI-rendszerek fejlesztését ideiglenesen függesszék fel.

„Egyetértek Elon Muskkal”

„Véleményem szerint a mesterséges intelligencia jövőbeni felhasználása nem csupán technológiai kérdés, hanem komoly etikai és társadalmi kihívásokkal jár. Az emberi természet – beleértve a hatalomvágyat, a pénzhajhászatot és a mások feletti uralkodást – szerves része ennek a problémának. A kérdés az, hogy kik rendelkeznek elegendő bölcsességgel és hatalommal ahhoz, hogy szabályozzák és kontrollálják ezeket a fejlesztéseket” – mondta az Indexnek Kocsisné Dr. Szilágyi Gyöngyi, az Eötvös Loránd Tudományegyetem (ELTE) matematikusa, mesterségesintelligencia-kutató.

Egyetértek Elon Muskkal abban, hogy globális biztonsági korlátok kellenek az MI-fejlesztéseknél. Vajon a jelenlegi hatalmi struktúrák, kormányok és vállalatok rendelkeznek-e erkölcsi alapokkal és hosszú távú vízióval ahhoz, hogy ne használják fel ezeket a fejlesztéseket rossz célokra

– fejtegette a matematikus, hozzátéve: sok országban a hatalom egy szűk elit kezében összpontosul, és az átlagembereknek kevés beleszólásuk van az irányításba. Az ilyen rendszerekben nehéz megakadályozni a technológiák gazdasági vagy katonai hasznosítását, mert ezeket az érdekeket éppen azok az elit csoportok irányítják, akik profitálnak belőlük.

„Ennek előfeltétele – tette hozzá –, hogy az emberek feleszméljenek, ne csak engedelmesen használják az MI-t, vagy éppen ellenségként tekintve rá teljesen megpróbálják kizárni a tudatukból, hanem megfelelően szofisztikált véleményt tudjanak kialakítani, tisztában legyenek az MI hasznával és veszélyeivel, és nyitottak legyenek arra, hogy képezzék magukat ebben a témában.”

Mesterségesintelligencia-alapú magyar fejlesztések

A tudós osztja azon vélekedéseket, miszerint az MI drasztikusan átalakíthatja a munkaerőpiacot, és politikai szinten befolyásolhatja a döntéshozatalt, illetve a kormányzást. Ráadásul a globális színtéren az MI fejlesztése nemzetek közötti versenyt generálhat. Az MI leggyorsabban az Egyesült Államokban és Kínában fejlődik, és széles körben alkalmazzák különféle iparágakban, például az egészségügyben, pénzügyben, közlekedésben, gyártásban, e-kereskedelemben és a szórakoztatóiparban.

Az elmúlt években számos kutatásban vettem részt mesterségesintelligencia-kutatóként. Fejlesztettünk például egy internetes testösszetétel-szaktanácsadó rendszert, amely az ELTE több évtizedes adatbázisát felhasználva automatikusan elemzi a genetikai testalkatot, az ideális testösszetételt, valamint azt, hogy mely testtájakon van túlsúly. Az ajánlások kiterjednek a javasolt sportágakra is

– számolt be a matematikus egy egyetemi innovációról, amely ezenfelül egy 3D testmodell segítségével megmutatja, hogyan változik a test kinézete fogyás vagy hízás esetén, valamint előrejelzést ad a gyermekek várható felnőttkori testalkatára vonatkozóan.

Egy másik magyar projekt során egy szakértői rendszert fejlesztettek az őssejtdonor-kiválasztási folyamat támogatására a köldökzsinórvér-transzplantációnál. Nemcsak az elsődleges genetikai egyezést vették figyelembe, hanem azt is, hogy a genetikai típusok milyen betegségekre hajlamosíthatnak, vagy éppen milyenek ellen nyújtanak védelmet. Ehhez több ezer tudományos publikációt elemeztek webes és adatbányászati technikákkal, automatizálva a genetikai kódok és betegségek kapcsolatainak kinyerését.

Férjemmel közös cégünk fejlesztett egy speciális telemetriás rendszert, amely szenzortechnológia és mesterséges intelligencia alkalmazásával méri a sportolók élettani és mozgásparamétereit. A rendszer segítségével analizálható a sportolók edzettségi állapota, a csapatjátékok taktikája, a játékosok teljesítménye, sebessége, mozgásformái, valamint stresszszintje

– ismertette saját innovációját Kocsisné Dr. Szilágyi Gyöngyi. Rendszerüket a tűzoltóság, a rendőrség, és a magyar HUNOR űrhajós program is használja.

Elméletek az MI sötét oldaláról

„A mesterséges intelligencia jövőjével kapcsolatban számos extrém forgatókönyv létezik, a társadalmi és politikai hatása is jelentős lehet” – fejtegette a családjával Bostonban élő Kocsisné Szilágyi Gyöngyi. Hozzátette: „Vannak, akik úgy gondolják, hogy a mesterséges intelligencia veszedelmesebb a nukleáris fegyvereknél.”

„Az MI egyik leggyakrabban említett veszélye a szuperintelligencia megjelenése” – vázolta a Bostonban élő, de távmunkában az ELTE-nek dolgozó kutatónő.

Nick Bostrom filozófus Superintelligence című könyvében részletesen tárgyalja ennek veszélyeit, figyelmeztetve, hogy egy ilyen MI akár az emberiség fennmaradását is veszélyeztetheti, ha céljai nem esnek egybe az emberi érdekekkel. Egy másik lehetséges forgatókönyv az MI-uralom, amikor a mesterséges intelligencia átveheti az irányítást a kritikus infrastruktúrák, például a gazdasági rendszerek, kormányzati rendszerek vagy katonai erőforrások felett.

Az MI további fenyegetései közé tartozik az etikai torzítások létrehozása és a társadalmi rend manipulálása. Ha az MI-t kizárólag hatékonyságra vagy profitra programozzák, figyelmen kívül hagyhatja az emberi jogokat vagy a társadalmi igazságosságot

– enged bepillantást Szilágyi doktornő a „gépek diktatúrájába”. Az MI gazdasági hatása is jelentős lehet. Ha ugyanis az MI képes lenne minden fizikai és szellemi munkát elvégezni, az emberi munkaerő feleslegessé válhatna, ami óriási társadalmi feszültségeket és gazdasági összeomlást okozhat.

Ray Kurzweil véleménye és a szingularitás koncepciója szintén kapcsolódik ehhez a kérdéshez. Kurzweil szerint a szingularitás egy olyan jövőt hozhat, ahol az MI túlszárnyalja az emberi intelligenciát, ami soha nem látott technológiai növekedéshez és az emberi élet alapvető átalakulásához vezethet. „Noha ez jelentős előrelépéseket hozhat, komoly, előre nem látható következményeket is rejthet a társadalom számára” – tette hozzá.

Még az elején járunk, de a technológia érik

Az MI a világban lévő rejtett információk és összefüggések feltárására irányuló tudomány. A mesterséges intelligenciában rejlő erő és hatalom az információ és annak hatékony feldolgozása révén keletkezik.

Az MI-fejlesztések alapját a világunkban lévő információ digitalizálása, valamint az információ tárolására, kezelésére és feldolgozására szolgáló nagy kapacitású hardvereszközök fejlesztése teremtette meg.

„Bár még az elején járunk ennek a folyamatnak, a technológia érik, és a jövőben várhatóan még több iparágban hoz majd forradalmi változásokat; az emberi jólét nagymértékben függ ezeknek a technológiáknak a fejlődésétől” – mondta az MI-kutató. Elmondása szerint az emberi döntéshozatal és információfeldolgozás komplex folyamat, amely a tudatos kognitív feldolgozást, az érzelmeket, a korábbi tapasztalatokat, valamint a társadalmi és kulturális háttér hatását is magában foglalja.

Az ember az új információk létrehozása során figyelembe veszi a teret, az időt, valamint az etikai, morális, szociális tényezőket is, és a tudatalatti folyamatok, vallási és ideológiai meggyőződések is befolyásolják ezt a folyamatot. Ezzel szemben a mesterséges intelligencia, különösen a mostanában nagy fejlődésen átmenő nagy nyelvi modellek (LLM-ek), mint a GPT, valószínűségi alapon működnek, és nem rendelkeznek tudatos kognitív folyamatokkal, érzelmekkel vagy mély szemantikai megértéssel.

Ezért nem látják át a tartalmak mélyebb jelentését, összefüggéseit, nem képesek valódi jelentést generálni, ahogyan egy ember képes lenne

– magyarázta Kocsisné Dr. Szilágyi Gyöngyi. Hozzátette: „Mégis különleges, hogy egy valószínűségi modell, bár nem rendelkezik belső, szándékolt jelentéssel, az általa előállított szöveg sokszor helyesen hordozza a szemantikai rétegeket. Fontos tényező persze, hogy nem magától tudja az információkat, hanem a nagy nyelvi modelleket olyan szövegeken tanították be, amelyeket emberek milliói hozták létre, saját tudatukkal és szándékolt jelentéssel, szemantikával.”

Az emberi szónak valóságteremtő ereje van

Ezért bár az MI hasznos eszköz lehet bizonyos feladatokhoz, az emberi tudatosság és kognitív képességek még mindig elengedhetetlenek a valódi megértéshez és helyes döntéshozatalhoz. „Nagyon izgalmas kérdés az, hogy valójában mi hordozza az információt, az összefüggéseket és a szemantikát a világunkról, valamint a világunk különböző dimenzióiról, amelyek magukban foglalják a fizikai, mentális és spirituális síkokat is” – tette fel a kérdést a kutató.

Példaként hozta fel az emberi beszédet, amely különböző nyelveken megfogalmazva, szimbolikus formában kódolja a valóságot, és az általa hordozott jelentések és összefüggések szorosan kapcsolódnak az emberi tudat által létrehozott szemantikához.

Másrészt a beszédnek valóságteremtő ereje van, ami például a Biblia teremtéstörténetében is megjelenik, ahol a kimondott szó valóságot formál, tehát a nyelvben megtestesülő információ hatalmat hordoz a létrehozásra

– közelítette meg a témát egy egészen érdekes aspektusból.

A fő különbség az MI-vel kapcsolatban – fogalmazott a matematikus –, hogy az LLM-modellek a szavak statisztikai valószínűségi mintáit elemzik, és „csak” a szavak egymás utáni előfordulására alapozzák a szemantikát. Ezekből hiányoznak a mélyebb jelentésrétegek, amelyeket az emberi tudat hoz létre.

(Borítókép: Index)