Jön az unokázós csalások új generációja

Ha kiegészítjük a ChatGPT alkotta szövegeket például a Midjourney képalkotó képességével, és valamelyik hangklónozó alkalmazás, mondjuk a Google AudioLM hangmásolásával, akkor a mesterséges intelligencia létrehozhatja bárki digitális hasonmását. A robot képes lesz a szüleink vagy a gyerekeink hangján és stílusában megszólalni, például pénzt kérhet egy sürgős szituáció megoldására. Ha pedig képet kérünk tőle, hogy azonosítsa magát, másodpercek alatt kreálhat egy képet a szeretteinkről, és el is küldheti. 

Ezáltal megjelenhet az unokázós csalás MI-változata: ennek során a csalók idős embereket hívnak fel, hogy unokájuk bajba került, és segítsenek neki egy, az áldozathoz küldött személyen keresztül a neki átadott pénzzel, értéktárgyakkal.

Ez a csalási forma lehet még szofisztikáltabb a deepfake-kel, hiszen

– ismertette Veszelszki Ágnes. Az NKE Digitális Média és Kommunikáció Tanszékének tanszékvezető egyetemi docense szerint a valóságostól megkülönböztethetetlen, MI generálta küllem és beszéd révén az eszköz hozzájárulhat félrevezető, megtévesztő információk terjesztéséhez, a rossz szándékú megszemélyesítéshez.

A kommunikációkutató rávilágított, hogy a hangalapú deepfake-kel szenzitív információ (hitelkártyaadatok, jelszó) is kicsalható a kiszemelt személytől – amint ez meg is történt egy brit energiacég ügyvezetőjével, aki azt hitte, hogy az anyacég német vezetőjével beszél telefonon, ami miatt 220 ezer eurónyi összeget utalt át egy magyar bankszámlára.

Később kiderült, hogy a csalók MI-alapú hanggenerátort használtak, amely olyan megtévesztő volt, hogy még a cégvezető németes akcentusát, jellegzetes beszéddallamát is képes volt utánozni. A csalók magabiztosságára utal, hogy háromszor is telefonáltak, de csupán az első átutalást hajtotta valóban végre az ügyvezető. Mivel az összeg a magyar számláról mexikói, majd ismeretlen számlákra került, ezért mind ez idáig a tetteseket nem sikerült azonosítani. 

Stratégia szövegtenyésztő alkalmazások ellen

Veszelszki Ágnes biztos abban, hogy a szövegekkel foglalkozó munkakörökben dolgozók nem maradhatnak semlegesek az olyan szövegtenyésztő alkalmazásokkal szemben, mint a ChatGPT. Véleménye szerint három stratégia lehetséges. 

• Az egyik a teljes tiltás vagy elzárkózás, vagyis bizonyos helyeken megtiltják az így készített szövegek alkalmazását. 
• A másik a kritika nélküli használat: minden bizonnyal lesznek olyanok, akik a könnyen elérhető eredmény érdekében különösebb fenntartások nélkül fogják használni ezeket az alkalmazásokat. 
• A harmadik megoldás pedig az, ha bizonyos tevékenységekben megfelelőnek tartjuk a gép által generált, akár sablonszövegeket (ismétlődő mintázatokra épülő pénzügyi és sporttudósítások már most is készülnek az AI segítségével), ehhez megtanuljuk a megfelelő kiindulóparancsok (promptok) használatát, de az eredményt szigorúan ellenőrizzük tartalmi és nyelvi szempontból, és a más céllal készült szövegalkotó munkákat pedig az emberi alkotásra bízzuk. 

Jön az oktatás 2.0

Az egyetemi docens tájékoztatott, hogy Aczél Petra professzorral az NMHH Médiatudományi Intézetével együttműködésben egy tanulmánykötetet szerkesztenek a deepfake-témáról. Kiemelte, hogy a technológia villámgyorsan fejlődik, hétről hétre jelennek meg újdonságok, ezért a témáról szóló tanulmányokat szinte folyamatosan frissíteni kellene.

A készülő kötetben a deepfake pedagógiai vonatkozásait Kárpáti Andrea professzor elemzi. Ebben a mesterséges intelligencia oktatásban való hasznosíthatóságát vizsgálja a szerző, sőt kifejezetten említi a ChatGPT-t is. 

Veszelszki Ágnes már a személyes gyakorlatában is ChatGPT-biztos oktatási technikákat használ. 

Olyan feladatokat szoktam adni, amelyek kötődnek a hallgatók személyes életéhez, és amelyekre egy mégoly okos gépnek nem lehet rálátása. Például a nyelvi tudatosság erősítése érdekében a hallgatók nyelvi (ön)reflexiós naplót készítenek, amelyben a saját tapasztalataikat kell leírniuk egy-egy, velük megesett vagy általuk megfigyelt kommunikációs helyzet kapcsán, majd ezt elemezni megadott szempontok szerint. Itt a személyesség miatt nehezebb a gépi segéderő bevonása

– ismertette az egyetemi docens. 

Egy másik ötletet is felvet: az órán elhangzottak alapján kell a hallgatóknak egy, a többieknek szánt kvízt készíteniük. Ezt a feladatot ugyanis csak akkor tudná megoldani a robot, ha személyesen is jelen lenne az órán. 

Az iskolai csalók kevesebbet érnek

Veszelszki Ágnes elmondta, hogy a szövegalkotó programokat nem tiltja ki a tanteremből, sőt beviszi a kurzusaira, ahol a hallgatókkal együtt elemzi a technológiában rejlő lehetőségeket és korlátokat. Szerinte a szűrőalkalmazások is fejlődnek, amelyekkel a jövőben kiszűrhetővé válhatnak a robot írta szövegek.

Mindennek ellenére nem tartja elképzelhetetlennek, hogy a hallgatók próbálkozni fognak a könnyebb, egyszerűbbnek tűnő megoldásokkal, akár a gépi szöveggenerálással egy nehezen készülő szakdolgozat kapcsán. Szerinte arról a célról feledkeznek el eközben, hogy ideális esetben a szakdolgozati projekt nem kizárólag a szöveggyártásról és a végeredményről szól, hanem a hallgatók speciális készségeit fejleszti, többek között

• a forráskritikát, 
• az absztrahálást, 
• a különböző vélemények ütköztetésének a készségét, 
• a tudományos stílus elsajátítását, 
• a kutatásmódszertani magabiztosságot, 
• az önállóságot. 

Ha a szöveggyártást elvégzi a hallgató helyett a gép, akkor mindezek a diák számára kimaradnak, és hátrányba kerül a munkaerőpiacon.

Még hibázik, de egyre kevesebbet

Veszelszki Ágnes kiváló példákat látott már a ChatGPT használatára, elsősorban angol nyelven, de hangsúlyozza, hogy képes már magyarul is értelmes, megtévesztésig eredetinek tűnő szövegeket alkotni.

Szerinte érdemes a mondatszerkesztést megvizsgálni, illetve a nyelven kívüli értelmet is ellenőrizni. Ez utóbbira példaként a Medvebor zalai borászat ChatGPT-s kísérletének az eredményét hozta: 

A nyelvész-oktató megjegyzi, hogy a fenti példában a magyar nyelv agglutináló (ragasztó) jellege miatt a szegmentálás (pincéről: pincér + ről, pincé + ről) sem sikerült a programnak teljesen. 

A kezdetleges fordítóprogramok morfológiai, azaz alaktani hibáit már nem találjuk meg ezekben a szövegekben, mert elsősorban nem a nyelv alkotóelemeiből építkeznek, hanem valódi szövegek mintázatait utánozzák a már említett predikció elve alapján, azaz azt nézi a program, hogy vajon milyen másik nyelvi egység következhet az adott szó után, mi szokott általában előfordulni – ismertette a kommunikációs szakember. 

Zenét is komponál az MI, de kié a jogdíj?

A nyelvész-kutató rámutatott, hogy jogászok már több szempontból is foglalkoznak azzal a kérdéssel, hogy ki tekinthető a mesterséges intelligenciával gyártott mű tulajdonosának. Például a „zeneíró” MI meglévő zenei műveket használ fel ahhoz, hogy teljesen új, korábban nem létező darabokat írjon, akár klasszikus stílusban, akár a legvadabb deathmetalzenék esetén. 

Van olyan alkalmazás, amely arra képes, hogy néhány másodpercnyi zenehallgatás után ugyanabban a stílusban folytassa a zenét, például egy zongoradarabot: ez a predikció alapján működik, vagyis megkeresi a mintázatokat az óriási adatbázisban, és előre jelzi, hogy ezek szerint milyen hang(kombináció) szokott rendszerint előfordulni. 

De van több olyan YouTube-csatorna is, amelyen folyamatosan, 24 órában lehet egy adott stílusú zenét hallgatni, mindenféle előzetes minta (tehát zenedarabba való belehallgatás) nélkül, de létező zenékre építve. A kérdés tehát az, hogy kell-e jogdíjat fizetni az eredeti zenék alkotóinak.

Hogyan követhető nyomon, melyik szekvenciát honnan vette a sokszor black boxként, azaz feketedobozként is jellemzett mesterséges intelligencia? A black box arra utal, hogy nem mindig tudjuk, milyen alapon, milyen módszerrel jutott arra az eredményre, amit a folyamat végén megkapunk. 

azaz az eredet jelzése, ám ez sem ennyire egyszerű. Ugyanezek a kérdések felmerülnek a tenyésztett szövegek kapcsán is: vajon kié a végleges szöveg? Aki a megfelelő kérdéseket feltette a chatbotszerű AI-nak, vagy aki a kiinduló, mintaként használt eredeti szövegeket megalkotta? „Nincsenek erre egyelőre megnyugtató válaszaink: sem az AI-etika, sem pedig a jog nem tud egyelőre az űrversenyhez hasonlító tempójú technológiai fejlődéssel lépést tartani és azonnali válaszokat adni” – zárta gondolatait Veszelszki Ágnes.

(Borítókép: Veszelszki Ágnes. Fotó: Szollár Zsófi / Index)