Öngyilkosságra is buzdíthat a mesterséges intelligencia

„Már a mai világunkban is megfigyelhető, hogy elmosódó érzelmi határok keletkeznek az ember és az AI között” – világított rá Kiss-Gy. Máté, az Asura Technologies Zrt. elnök-vezérigazgatója az ECNMX AI Summit konferencián.

A cégvezető erre példának egy fél évvel ezelőtti esetet hozott, amikor egy belga férfit a nyelvi modell öngyilkosságra buzdított. Az esetről korábban az Index is beszámolt.

A férfi felesége név nélkül nyilatkozott a La Libre belga lapnak, elmondva, hogy férje hat héttel a halála előtt kezdett el csevegni Elizával, egy olyan chatrobottal, amelyet egy amerikai startupcég hozott létre a GPT-J technológia – az OpenAI GPT-3 nyílt forráskódú alternatívája – felhasználásával.

A chatbot gyakorlatilag megerősítette a felhasználót abban, hogy jogosak az érvei az öngyilkosság mellett. Itt első ízben volt emberi sors az AI kezében – de biztosan nem utoljára

– fogalmazott Kiss-Gy. Máté. A technológia sötét oldala azonban itt nem áll meg, ugyanerre példa az új dimenziós limitált hangszínjátékokkal létrejövő csalások. 

Beköszöntött az unokázós csalások új korszaka

Amerikában egy új típusú unokázós csalás valósul meg: a csalók hanggeneráló mesterséges intelligenciával (AI) veszik rá az áldozatokat arra, hogy fizessenek nekik, akár az unoka hangján megszólalva tudnak pénzt kérni a nagyszülőktől.

– világított rá a cégvezető, aki szerint fontos látni azt is, hogy még soha, senkivel nem léptünk olyan interakcióba, ami annyira hasonlóan reagál ránk, mint egy másik ember tenné. „Az AI az első olyan entitás, ami tökéletesen imitál minket és úgy kommunikál velünk, ahogyan mi is kommunikálunk egymás között” – mondta a konferencián.

Mintha a tükörbe néznénk

A technológia olyan gyorsasággal fejlődik, amit társadalmi szinten nagyon nehezen tud lekövetni és adaptálódni hozzá, erre a konferencián Porkoláb Imre dandártábornok is rávilágított. A problémát tetézi és bonyolítja, ha az AI-nak saját érzelmi intelligenciája fejlődik majd ki – vetette fel Kiss-Gy. Máté.

Az AI az algoritmusai fejlődésével ugyanúgy tanul és képez le dolgokat, ahogy egy embernek kifejlődik az érzelmi intelligenciája. Ma már van videóanalitika, hangsúly, tónus, és beszédelemzés is – mennyire vagyunk attól, hogy egy imitált mesterséges intelligencia is létrejöjjön?

– tette fel a kérdést az előadó, megjegyezve, hogy a társadalom nem biztos, hogy elég fejlett, elég stabil mentális állapotban van ahhoz, hogy a mesterséges intelligenciához ne érzelmekkel viszonyuljon. A cégvezető szerint már látható az is, hogy emberek megszemélyesítik a ChatGPT-t, úgy beszélnek róla, mintha egy önálló ember vagy entitás lenne.

Szerintem ez súlyos kérdéseket vet fel, és nem foglalkozunk eleget azzal, hogy az emberek ne vonódjanak be érzelmileg a ChatGPT-vel, mesterséges intelligenciával való érintkezésekbe

– fogalmazott Kiss-Gy. Máté. A megoldást az edukáció szerepében látja, szerinte a környezetünket edukálni kell, hogy megfelelő tempóban adaptálódjon az extrém gyorsan lezajlódó technológiai változásokhoz, anélkül, hogy valós érzelmeket tápláljon a gépek felé. 

„Az emberiségnek olyan kérdéseket kell feltenni, amelyeket még soha nem tett fel előtte, a hús-vér emberi kapcsolatoknak pedig muszáj lesz felértékelődniük és éles vonalat húzni egy MI-vel és egy valódi emberrel kialakított kapcsolat között” – zárta előadását a cégvezető.