2024. július 14. 21:00
Spanyolország
Anglia

Öngyilkosságra is buzdíthat a mesterséges intelligencia

2023.09.13. 06:28
Ráfér a mesterséges intelligenciára egy jó adag érzelmi intelligencia is, ugyanis rengetegen használják csalásra, sőt egy esetben egy belga férfit öngyilkosságra biztatott. A hangutánzó programok pedig egyre élethűbben imitálják az emberi beszédet, ez pedig átverések új korszakát hozhatja el – jelezte Kiss-Gy. Máté, az Asura Technologies elnök-vezérigazgatója az Indamedia csoport által rendezett AI Summit konferencián.

„Már a mai világunkban is megfigyelhető, hogy elmosódó érzelmi határok keletkeznek az ember és az AI között” – világított rá Kiss-Gy. Máté, az Asura Technologies Zrt. elnök-vezérigazgatója az ECNMX AI Summit konferencián.

A cégvezető erre példának egy fél évvel ezelőtti esetet hozott, amikor egy belga férfit a nyelvi modell öngyilkosságra buzdított. Az esetről korábban az Index is beszámolt.

A férfi felesége név nélkül nyilatkozott a La Libre belga lapnak, elmondva, hogy férje hat héttel a halála előtt kezdett el csevegni Elizával, egy olyan chatrobottal, amelyet egy amerikai startupcég hozott létre a GPT-J technológia – az OpenAI GPT-3 nyílt forráskódú alternatívája – felhasználásával.

A chatbot gyakorlatilag megerősítette a felhasználót abban, hogy jogosak az érvei az öngyilkosság mellett. Itt első ízben volt emberi sors az AI kezében – de biztosan nem utoljára

– fogalmazott Kiss-Gy. Máté. A technológia sötét oldala azonban itt nem áll meg, ugyanerre példa az új dimenziós limitált hangszínjátékokkal létrejövő csalások. 

Beköszöntött az unokázós csalások új korszaka

Amerikában egy új típusú unokázós csalás valósul meg: a csalók hanggeneráló mesterséges intelligenciával (AI) veszik rá az áldozatokat arra, hogy fizessenek nekik, akár az unoka hangján megszólalva tudnak pénzt kérni a nagyszülőktől.

Ugyanígy olyan esetre is van példa, amikor hanggeneráló AI egy nagy cég főnökét veszi rá arra, hogy utalásokat intézzen – az AI az asszisztens hangját utánozhatja erre

– világított rá a cégvezető, aki szerint fontos látni azt is, hogy még soha, senkivel nem léptünk olyan interakcióba, ami annyira hasonlóan reagál ránk, mint egy másik ember tenné. „Az AI az első olyan entitás, ami tökéletesen imitál minket és úgy kommunikál velünk, ahogyan mi is kommunikálunk egymás között” – mondta a konferencián.

Mintha a tükörbe néznénk

A technológia olyan gyorsasággal fejlődik, amit társadalmi szinten nagyon nehezen tud lekövetni és adaptálódni hozzá, erre a konferencián Porkoláb Imre dandártábornok is rávilágított. A problémát tetézi és bonyolítja, ha az AI-nak saját érzelmi intelligenciája fejlődik majd ki – vetette fel Kiss-Gy. Máté.

Az AI az algoritmusai fejlődésével ugyanúgy tanul és képez le dolgokat, ahogy egy embernek kifejlődik az érzelmi intelligenciája. Ma már van videóanalitika, hangsúly, tónus, és beszédelemzés is – mennyire vagyunk attól, hogy egy imitált mesterséges intelligencia is létrejöjjön?

– tette fel a kérdést az előadó, megjegyezve, hogy a társadalom nem biztos, hogy elég fejlett, elég stabil mentális állapotban van ahhoz, hogy a mesterséges intelligenciához ne érzelmekkel viszonyuljon. A cégvezető szerint már látható az is, hogy emberek megszemélyesítik a ChatGPT-t, úgy beszélnek róla, mintha egy önálló ember vagy entitás lenne.

Szerintem ez súlyos kérdéseket vet fel, és nem foglalkozunk eleget azzal, hogy az emberek ne vonódjanak be érzelmileg a ChatGPT-vel, mesterséges intelligenciával való érintkezésekbe

– fogalmazott Kiss-Gy. Máté. A megoldást az edukáció szerepében látja, szerinte a környezetünket edukálni kell, hogy megfelelő tempóban adaptálódjon az extrém gyorsan lezajlódó technológiai változásokhoz, anélkül, hogy valós érzelmeket tápláljon a gépek felé. 

„Az emberiségnek olyan kérdéseket kell feltenni, amelyeket még soha nem tett fel előtte, a hús-vér emberi kapcsolatoknak pedig muszáj lesz felértékelődniük és éles vonalat húzni egy MI-vel és egy valódi emberrel kialakított kapcsolat között” – zárta előadását a cégvezető.

Mindig van kihez fordulni

Magyarországon számos lelkielsősegély-szolgálat működik, a bárki számára ingyenes elérhető telefonszámok az alábbiak:

Kék Vonal (24 év alattiaknak): 116-111

Kék Vonal (24 év alatti fiatalért aggódó felnőtteknek): 116-000

Magyar Lelki Elsősegély Szolgálat: 116-123

Országos Kríziskezelő: +36 80 20 55 20

Caritas Lelkisegély: +36 80 505 503

DélUtán (időseknek): +36 80 200 866

Ai SUMMIT konferencia 2024

Ebben a cikkben a téma érzékenysége miatt nem tartjuk etikusnak reklámok elhelyezését.
Részletes tájékoztatást az Indamedia Csoport márkabiztonsági nyilatkozatában talál.

Indamedia Csoport