Jön az unokázós csalások új generációja

SZS 20230121-2185
2023.01.25. 15:03
Viszonylag könnyedén utánozható bárki digitális identitása az emberek fokozott digitalizációja révén, például a hangazonosító megadásával, publikus közösségimédia-profilok használatával – mondta az Indexnek dr. Veszelszki Ágnes kommunikációkutató, akivel többek között arról is beszélgettünk, miként írja át az oktatást az új digitális asszisztens, és miért érnek majd kevesebbet az iskolai csalók a munkaerőpiacon.

Ha kiegészítjük a ChatGPT alkotta szövegeket például a Midjourney képalkotó képességével, és valamelyik hangklónozó alkalmazás, mondjuk a Google AudioLM hangmásolásával, akkor a mesterséges intelligencia létrehozhatja bárki digitális hasonmását. A robot képes lesz a szüleink vagy a gyerekeink hangján és stílusában megszólalni, például pénzt kérhet egy sürgős szituáció megoldására. Ha pedig képet kérünk tőle, hogy azonosítsa magát, másodpercek alatt kreálhat egy képet a szeretteinkről, és el is küldheti. 

Ezáltal megjelenhet az unokázós csalás MI-változata: ennek során a csalók idős embereket hívnak fel, hogy unokájuk bajba került, és segítsenek neki egy, az áldozathoz küldött személyen keresztül a neki átadott pénzzel, értéktárgyakkal.

Ez a csalási forma lehet még szofisztikáltabb a deepfake-kel, hiszen

a segélykérés az unoka valódinak ható, utánzott hangján is elhangozhat, a rokoni viszonyokat márpedig könnyű feltárni a közösségi média segítségével

– ismertette Veszelszki Ágnes. Az NKE Digitális Média és Kommunikáció Tanszékének tanszékvezető egyetemi docense szerint a valóságostól megkülönböztethetetlen, MI generálta küllem és beszéd révén az eszköz hozzájárulhat félrevezető, megtévesztő információk terjesztéséhez, a rossz szándékú megszemélyesítéshez.

A kommunikációkutató rávilágított, hogy a hangalapú deepfake-kel szenzitív információ (hitelkártyaadatok, jelszó) is kicsalható a kiszemelt személytől – amint ez meg is történt egy brit energiacég ügyvezetőjével, aki azt hitte, hogy az anyacég német vezetőjével beszél telefonon, ami miatt 220 ezer eurónyi összeget utalt át egy magyar bankszámlára.

Később kiderült, hogy a csalók MI-alapú hanggenerátort használtak, amely olyan megtévesztő volt, hogy még a cégvezető németes akcentusát, jellegzetes beszéddallamát is képes volt utánozni. A csalók magabiztosságára utal, hogy háromszor is telefonáltak, de csupán az első átutalást hajtotta valóban végre az ügyvezető. Mivel az összeg a magyar számláról mexikói, majd ismeretlen számlákra került, ezért mind ez idáig a tetteseket nem sikerült azonosítani. 

Stratégia szövegtenyésztő alkalmazások ellen

Veszelszki Ágnes biztos abban, hogy a szövegekkel foglalkozó munkakörökben dolgozók nem maradhatnak semlegesek az olyan szövegtenyésztő alkalmazásokkal szemben, mint a ChatGPT. Véleménye szerint három stratégia lehetséges. 

  • Az egyik a teljes tiltás vagy elzárkózás, vagyis bizonyos helyeken megtiltják az így készített szövegek alkalmazását. 
  • A másik a kritika nélküli használat: minden bizonnyal lesznek olyanok, akik a könnyen elérhető eredmény érdekében különösebb fenntartások nélkül fogják használni ezeket az alkalmazásokat. 
  • A harmadik megoldás pedig az, ha bizonyos tevékenységekben megfelelőnek tartjuk a gép által generált, akár sablonszövegeket (ismétlődő mintázatokra épülő pénzügyi és sporttudósítások már most is készülnek az AI segítségével), ehhez megtanuljuk a megfelelő kiindulóparancsok (promptok) használatát, de az eredményt szigorúan ellenőrizzük tartalmi és nyelvi szempontból, és a más céllal készült szövegalkotó munkákat pedig az emberi alkotásra bízzuk. 

Jön az oktatás 2.0

Az egyetemi docens tájékoztatott, hogy Aczél Petra professzorral az NMHH Médiatudományi Intézetével együttműködésben egy tanulmánykötetet szerkesztenek a deepfake-témáról. Kiemelte, hogy a technológia villámgyorsan fejlődik, hétről hétre jelennek meg újdonságok, ezért a témáról szóló tanulmányokat szinte folyamatosan frissíteni kellene.

A készülő kötetben a deepfake pedagógiai vonatkozásait Kárpáti Andrea professzor elemzi. Ebben a mesterséges intelligencia oktatásban való hasznosíthatóságát vizsgálja a szerző, sőt kifejezetten említi a ChatGPT-t is. 

Ez a technológia megváltoztathatja az iskolai számonkérések rendszerét, például az otthon megírt esszékhez kiegészítő számonkérés, azaz a beadandóban leírtak órai ellenőrzése is társulhat.

Veszelszki Ágnes már a személyes gyakorlatában is ChatGPT-biztos oktatási technikákat használ. 

Olyan feladatokat szoktam adni, amelyek kötődnek a hallgatók személyes életéhez, és amelyekre egy mégoly okos gépnek nem lehet rálátása. Például a nyelvi tudatosság erősítése érdekében a hallgatók nyelvi (ön)reflexiós naplót készítenek, amelyben a saját tapasztalataikat kell leírniuk egy-egy, velük megesett vagy általuk megfigyelt kommunikációs helyzet kapcsán, majd ezt elemezni megadott szempontok szerint. Itt a személyesség miatt nehezebb a gépi segéderő bevonása

– ismertette az egyetemi docens. 

Egy másik ötletet is felvet: az órán elhangzottak alapján kell a hallgatóknak egy, a többieknek szánt kvízt készíteniük. Ezt a feladatot ugyanis csak akkor tudná megoldani a robot, ha személyesen is jelen lenne az órán. 

Az iskolai csalók kevesebbet érnek

Veszelszki Ágnes elmondta, hogy a szövegalkotó programokat nem tiltja ki a tanteremből, sőt beviszi a kurzusaira, ahol a hallgatókkal együtt elemzi a technológiában rejlő lehetőségeket és korlátokat. Szerinte a szűrőalkalmazások is fejlődnek, amelyekkel a jövőben kiszűrhetővé válhatnak a robot írta szövegek.

Mindennek ellenére nem tartja elképzelhetetlennek, hogy a hallgatók próbálkozni fognak a könnyebb, egyszerűbbnek tűnő megoldásokkal, akár a gépi szöveggenerálással egy nehezen készülő szakdolgozat kapcsán. Szerinte arról a célról feledkeznek el eközben, hogy ideális esetben a szakdolgozati projekt nem kizárólag a szöveggyártásról és a végeredményről szól, hanem a hallgatók speciális készségeit fejleszti, többek között

  • a forráskritikát, 
  • az absztrahálást, 
  • a különböző vélemények ütköztetésének a készségét, 
  • a tudományos stílus elsajátítását, 
  • a kutatásmódszertani magabiztosságot, 
  • az önállóságot. 

Ha a szöveggyártást elvégzi a hallgató helyett a gép, akkor mindezek a diák számára kimaradnak, és hátrányba kerül a munkaerőpiacon.

Még hibázik, de egyre kevesebbet

Veszelszki Ágnes kiváló példákat látott már a ChatGPT használatára, elsősorban angol nyelven, de hangsúlyozza, hogy képes már magyarul is értelmes, megtévesztésig eredetinek tűnő szövegeket alkotni.

Szerinte érdemes a mondatszerkesztést megvizsgálni, illetve a nyelven kívüli értelmet is ellenőrizni. Ez utóbbira példaként a Medvebor zalai borászat ChatGPT-s kísérletének az eredményét hozta: 

Forrás: https://www.facebook.com/photo/?fbid=563072515841206&set=a.462055902609535
Forrás: https://www.facebook.com/photo/?fbid=563072515841206&set=a.462055902609535

A nyelvész-oktató megjegyzi, hogy a fenti példában a magyar nyelv agglutináló (ragasztó) jellege miatt a szegmentálás (pincéről: pincér + ről, pincé + ről) sem sikerült a programnak teljesen. 

A kezdetleges fordítóprogramok morfológiai, azaz alaktani hibáit már nem találjuk meg ezekben a szövegekben, mert elsősorban nem a nyelv alkotóelemeiből építkeznek, hanem valódi szövegek mintázatait utánozzák a már említett predikció elve alapján, azaz azt nézi a program, hogy vajon milyen másik nyelvi egység következhet az adott szó után, mi szokott általában előfordulni – ismertette a kommunikációs szakember. 

Zenét is komponál az MI, de kié a jogdíj?

A nyelvész-kutató rámutatott, hogy jogászok már több szempontból is foglalkoznak azzal a kérdéssel, hogy ki tekinthető a mesterséges intelligenciával gyártott mű tulajdonosának. Például a „zeneíró” MI meglévő zenei műveket használ fel ahhoz, hogy teljesen új, korábban nem létező darabokat írjon, akár klasszikus stílusban, akár a legvadabb deathmetalzenék esetén. 

Van olyan alkalmazás, amely arra képes, hogy néhány másodpercnyi zenehallgatás után ugyanabban a stílusban folytassa a zenét, például egy zongoradarabot: ez a predikció alapján működik, vagyis megkeresi a mintázatokat az óriási adatbázisban, és előre jelzi, hogy ezek szerint milyen hang(kombináció) szokott rendszerint előfordulni. 

De van több olyan YouTube-csatorna is, amelyen folyamatosan, 24 órában lehet egy adott stílusú zenét hallgatni, mindenféle előzetes minta (tehát zenedarabba való belehallgatás) nélkül, de létező zenékre építve. A kérdés tehát az, hogy kell-e jogdíjat fizetni az eredeti zenék alkotóinak.

Hogyan követhető nyomon, melyik szekvenciát honnan vette a sokszor black boxként, azaz feketedobozként is jellemzett mesterséges intelligencia? A black box arra utal, hogy nem mindig tudjuk, milyen alapon, milyen módszerrel jutott arra az eredményre, amit a folyamat végén megkapunk. 

Technikai megoldás lehet erre a digitális vízjelezés,

azaz az eredet jelzése, ám ez sem ennyire egyszerű. Ugyanezek a kérdések felmerülnek a tenyésztett szövegek kapcsán is: vajon kié a végleges szöveg? Aki a megfelelő kérdéseket feltette a chatbotszerű AI-nak, vagy aki a kiinduló, mintaként használt eredeti szövegeket megalkotta? „Nincsenek erre egyelőre megnyugtató válaszaink: sem az AI-etika, sem pedig a jog nem tud egyelőre az űrversenyhez hasonlító tempójú technológiai fejlődéssel lépést tartani és azonnali válaszokat adni” – zárta gondolatait Veszelszki Ágnes.

(Borítókép: Veszelszki Ágnes. Fotó: Szollár Zsófi / Index)

Ehhez a cikkhez ajánljuk

  • Gazdaság
Engedett a Nemzetgazdasági Minisztérium, visszavont egy jogszabálytervezetet

Engedett a Nemzetgazdasági Minisztérium, visszavont egy jogszabálytervezetet

A beérkezett észrevételeket figyelembe véve döntöttek így.

február 20., 16:13

  • Gazdaság
Ha beválnak a tervek, hatalmas lökést kaphat Orbán Viktor szekere

Ha beválnak a tervek, hatalmas lökést kaphat Orbán Viktor szekere

Bemondták, mekkora hátszelet adhat idén Magyarország húzóágazata.

február 20., 14:24

  • Gazdaság
Érkezik az év legnagyobb kamatesője

Érkezik az év legnagyobb kamatesője

Több mint 2200 milliárd forint sorsa dől el.

február 20., 08:33

  • Gazdaság
Válaszolt a Hell a támadásokra

Válaszolt a Hell a támadásokra

Hangsúlyozzák, hogy tulajdonosaik sosem törekedtek arra, hogy reflektorfényben legyenek.

február 20., 11:20

  • Gazdaság
Hiába a kormányzati élénkítés, nincs pénzük a magyaroknak, és ez jól látszik

Hiába a kormányzati élénkítés, nincs pénzük a magyaroknak, és ez jól látszik

A szakszövetség szerint idén még nem lesz érzékelhető a lakhatási válságon enyhíteni szándékozó lépések eredménye.

február 20., 16:59

  • Gazdaság
Az ingatlanárak repülőrajtot vettek, ám a lakásépítések padlót fogtak

Az ingatlanárak repülőrajtot vettek, ám a lakásépítések padlót fogtak

Kérdés, lendíthetnek-e a helyzeten a lakhatási válság enyhítését célzó állami intézkedések.

február 20., 08:55

  • Gazdaság
Csaknem 700 milliárdot bukott eddig Magyarország a kohéziós alapból, de messze még a vége

Csaknem 700 milliárdot bukott eddig Magyarország a kohéziós alapból, de messze még a vége

Ha 2025-ben sem sikerül megállapodni, újabb százmilliárdok bánják.

2 órája

  • Gazdaság
Akár 300 ezres bírságot kockáztat, aki nem végzi el a NAV adategyeztetését

Akár 300 ezres bírságot kockáztat, aki nem végzi el a NAV adategyeztetését

A hivatal átláthatóságot vár a döntéstől.

február 20., 07:29

  • Gazdaság
Leállás jön Magyarország egyik legnagyobb bankjánál

Leállás jön Magyarország egyik legnagyobb bankjánál

Harminc órán keresztül nem lesznek elérhetőek bizonyos szolgáltatások a CIB Banknál.

február 20., 08:36

  • Gazdaság
Százhúsz éve harcolnak érte, ilyen lesz az új magyar híd

Százhúsz éve harcolnak érte, ilyen lesz az új magyar híd

Mohácsnál megkezdődtek a munkálatok.

február 20., 12:45

  • Gazdaság
A vadkapitalista időszak a múlté, a köd oszlik, a bizalom növekszik a magyar lakosságban

A vadkapitalista időszak a múlté, a köd oszlik, a bizalom növekszik a magyar lakosságban

Létezik-e olyan, hogy etikus biztosítás? Utánajártunk.

február 19., 16:03

  • Címlapon
Az orosz–amerikai tárgyalások miatt félő, hogy a történelem megismétli önmagát

Az orosz–amerikai tárgyalások miatt félő, hogy a történelem megismétli önmagát

A Szudéta-vidék átadása? Jalta 2.0? Amikor a nagyhatalmak a kelet-európaiak feje felett döntöttek a sorsukról.

3 órája

  • Címlapon
Emmanuel Macront még soha nem alázták meg úgy, mint Donald Trump a Fehér Házban

Emmanuel Macront még soha nem alázták meg úgy, mint Donald Trump a Fehér Házban

Az orosz−ukrán háborúról egyeztettek a felek, amikor furcsa jelenet zajlott le.

8 órája

  • Címlapon
Felrobbant egy Ukrajnának gyártott harckocsi Szlovákiában

Felrobbant egy Ukrajnának gyártott harckocsi Szlovákiában

A szlovák védelmi miniszter nem zárja ki egy harmadik fél beavatkozását.

54 perce

  • Címlapon
Úgy szóltak be Orbán Viktornak, hogy ott sem volt

Úgy szóltak be Orbán Viktornak, hogy ott sem volt

Az egyik felszólalást bekiabálás akasztotta meg.

6 órája

  • Címlapon
A magyarok egy része kételkedik az új gazdasági lépésekben

A magyarok egy része kételkedik az új gazdasági lépésekben

A nyugdíjasok áfa-visszatérítésével és a gyerekesek szja-mentességével kapcsolatban is hasonlóan gondolkodnak.

26 perce

  • Gazdaság
Történelmi lépés: már épül a magyar kikötő Triesztben

Történelmi lépés: már épül a magyar kikötő Triesztben

A beruházás első fázisában egy 250 méteres partfalszakaszt építenek.

február 20., 21:14

  • Címlapon
„Édesanyámhoz közel csapódott be a rakéta, ez győzte meg, hogy hagyjuk el Ukrajnát”

„Édesanyámhoz közel csapódott be a rakéta, ez győzte meg, hogy hagyjuk el Ukrajnát”

Különleges történetekről számoltak be lapunknak a Magyarországra érkezők, volt, akinek aknamezőn keresztül kellett menekülnie.

3 órája

  • Gazdaság
Rangos díjat nyert Orbán Gábor, a Richter vezérigazgatója

Rangos díjat nyert Orbán Gábor, a Richter vezérigazgatója

265 vezérigazgató véleménye alapján nyerte el az elismerést.

február 19., 13:27

  • Gazdaság
Tömeges leépítést jelentett be egy német autóipari beszállító

Tömeges leépítést jelentett be egy német autóipari beszállító

2026 végéig hajtják végre.

február 19., 12:37

  • Gazdaság
Lerántották a leplet: ilyen lesz a béke utáni Magyarország

Lerántották a leplet: ilyen lesz a béke utáni Magyarország

Belekóstoltunk, milyen az, ha közelít az orosz–ukrán háború lezárása.

február 19., 11:45

  • Gazdaság
Elfogadták Brüsszelben Magyarország középtávú költségvetési tervét

Elfogadták Brüsszelben Magyarország középtávú költségvetési tervét

Nagy Márton közölte a részleteket.

február 19., 13:14

  • Gazdaság
Romániai céget vásárol fel a Duna Aszfalt Zrt.

Romániai céget vásárol fel a Duna Aszfalt Zrt.

Az adásvétel értékét a felek nem hozták nyilvánosságra.

február 19., 07:19

  • Címlapon
Lázár János fogadta Toroczkai Lászlót, és egyetértettek egy fontos kérdésben

Lázár János fogadta Toroczkai Lászlót, és egyetértettek egy fontos kérdésben

A Mi Hazánk javaslatából születhet majd meg az új törvény.

2 órája

  • Gazdaság
Nagy dobásra készül a 4iG, újra a SpaceX-szel tárgyaltak Washingtonban

Nagy dobásra készül a 4iG, újra a SpaceX-szel tárgyaltak Washingtonban

A decemberi mar-a-lagói találkozó után folytatódtak a megbeszélések.

február 19., 10:42

  • Gazdaság
1,3 milliárdért eladta az állam Balatonföldvár egyik legértékesebb területét

1,3 milliárdért eladta az állam Balatonföldvár egyik legértékesebb területét

Az eladási ár azt mutatja, hogy igen jelentős lehetett az érdeklődés az ingatlanra.

február 19., 11:33

  • Gazdaság
Számos lépést tesz a Lidl mindannyiunk érdekében

Számos lépést tesz a Lidl mindannyiunk érdekében

A cég évek óta kiemelten kezeli a fenntarthatóság kérdését.

február 19., 14:11

  • Címlapon
Orbán Viktor fogadta az Európai Tanács elnökét

Orbán Viktor fogadta az Európai Tanács elnökét

Az uniós csúcs volt a téma.

1 órája