Jön az unokázós csalások új generációja

További Gazdaság cikkek
-
Csaknem 700 milliárdot bukott eddig Magyarország a kohéziós alapból, de messze még a vége
- Szárnyal a 4iG űrprogramja, újabb megállapodás született
- Pont erre számítottunk, nem csökkentett kamatokat a jegybank
- Szerződésbe foglalták a Mátrai Erőmű új blokkjának fejlesztési projektjét
- Drágábban repülhetnek az utasok a Ryanairnél az idén
Házi feladatot és szerelmes levelet is ír helyettünk a virtuális csicska
Ettől aztán főhet a tanárok feje.
Ha kiegészítjük a ChatGPT alkotta szövegeket például a Midjourney képalkotó képességével, és valamelyik hangklónozó alkalmazás, mondjuk a Google AudioLM hangmásolásával, akkor a mesterséges intelligencia létrehozhatja bárki digitális hasonmását. A robot képes lesz a szüleink vagy a gyerekeink hangján és stílusában megszólalni, például pénzt kérhet egy sürgős szituáció megoldására. Ha pedig képet kérünk tőle, hogy azonosítsa magát, másodpercek alatt kreálhat egy képet a szeretteinkről, és el is küldheti.
Ezáltal megjelenhet az unokázós csalás MI-változata: ennek során a csalók idős embereket hívnak fel, hogy unokájuk bajba került, és segítsenek neki egy, az áldozathoz küldött személyen keresztül a neki átadott pénzzel, értéktárgyakkal.
Ez a csalási forma lehet még szofisztikáltabb a deepfake-kel, hiszen
a segélykérés az unoka valódinak ható, utánzott hangján is elhangozhat, a rokoni viszonyokat márpedig könnyű feltárni a közösségi média segítségével
– ismertette Veszelszki Ágnes. Az NKE Digitális Média és Kommunikáció Tanszékének tanszékvezető egyetemi docense szerint a valóságostól megkülönböztethetetlen, MI generálta küllem és beszéd révén az eszköz hozzájárulhat félrevezető, megtévesztő információk terjesztéséhez, a rossz szándékú megszemélyesítéshez.

A kommunikációkutató rávilágított, hogy a hangalapú deepfake-kel szenzitív információ (hitelkártyaadatok, jelszó) is kicsalható a kiszemelt személytől – amint ez meg is történt egy brit energiacég ügyvezetőjével, aki azt hitte, hogy az anyacég német vezetőjével beszél telefonon, ami miatt 220 ezer eurónyi összeget utalt át egy magyar bankszámlára.
Később kiderült, hogy a csalók MI-alapú hanggenerátort használtak, amely olyan megtévesztő volt, hogy még a cégvezető németes akcentusát, jellegzetes beszéddallamát is képes volt utánozni. A csalók magabiztosságára utal, hogy háromszor is telefonáltak, de csupán az első átutalást hajtotta valóban végre az ügyvezető. Mivel az összeg a magyar számláról mexikói, majd ismeretlen számlákra került, ezért mind ez idáig a tetteseket nem sikerült azonosítani.
Stratégia szövegtenyésztő alkalmazások ellen
Veszelszki Ágnes biztos abban, hogy a szövegekkel foglalkozó munkakörökben dolgozók nem maradhatnak semlegesek az olyan szövegtenyésztő alkalmazásokkal szemben, mint a ChatGPT. Véleménye szerint három stratégia lehetséges.
- Az egyik a teljes tiltás vagy elzárkózás, vagyis bizonyos helyeken megtiltják az így készített szövegek alkalmazását.
- A másik a kritika nélküli használat: minden bizonnyal lesznek olyanok, akik a könnyen elérhető eredmény érdekében különösebb fenntartások nélkül fogják használni ezeket az alkalmazásokat.
- A harmadik megoldás pedig az, ha bizonyos tevékenységekben megfelelőnek tartjuk a gép által generált, akár sablonszövegeket (ismétlődő mintázatokra épülő pénzügyi és sporttudósítások már most is készülnek az AI segítségével), ehhez megtanuljuk a megfelelő kiindulóparancsok (promptok) használatát, de az eredményt szigorúan ellenőrizzük tartalmi és nyelvi szempontból, és a más céllal készült szövegalkotó munkákat pedig az emberi alkotásra bízzuk.

Jön az oktatás 2.0
Az egyetemi docens tájékoztatott, hogy Aczél Petra professzorral az NMHH Médiatudományi Intézetével együttműködésben egy tanulmánykötetet szerkesztenek a deepfake-témáról. Kiemelte, hogy a technológia villámgyorsan fejlődik, hétről hétre jelennek meg újdonságok, ezért a témáról szóló tanulmányokat szinte folyamatosan frissíteni kellene.
A készülő kötetben a deepfake pedagógiai vonatkozásait Kárpáti Andrea professzor elemzi. Ebben a mesterséges intelligencia oktatásban való hasznosíthatóságát vizsgálja a szerző, sőt kifejezetten említi a ChatGPT-t is.
Ez a technológia megváltoztathatja az iskolai számonkérések rendszerét, például az otthon megírt esszékhez kiegészítő számonkérés, azaz a beadandóban leírtak órai ellenőrzése is társulhat.
Veszelszki Ágnes már a személyes gyakorlatában is ChatGPT-biztos oktatási technikákat használ.
Olyan feladatokat szoktam adni, amelyek kötődnek a hallgatók személyes életéhez, és amelyekre egy mégoly okos gépnek nem lehet rálátása. Például a nyelvi tudatosság erősítése érdekében a hallgatók nyelvi (ön)reflexiós naplót készítenek, amelyben a saját tapasztalataikat kell leírniuk egy-egy, velük megesett vagy általuk megfigyelt kommunikációs helyzet kapcsán, majd ezt elemezni megadott szempontok szerint. Itt a személyesség miatt nehezebb a gépi segéderő bevonása
– ismertette az egyetemi docens.
Egy másik ötletet is felvet: az órán elhangzottak alapján kell a hallgatóknak egy, a többieknek szánt kvízt készíteniük. Ezt a feladatot ugyanis csak akkor tudná megoldani a robot, ha személyesen is jelen lenne az órán.

Az iskolai csalók kevesebbet érnek
Veszelszki Ágnes elmondta, hogy a szövegalkotó programokat nem tiltja ki a tanteremből, sőt beviszi a kurzusaira, ahol a hallgatókkal együtt elemzi a technológiában rejlő lehetőségeket és korlátokat. Szerinte a szűrőalkalmazások is fejlődnek, amelyekkel a jövőben kiszűrhetővé válhatnak a robot írta szövegek.
Mindennek ellenére nem tartja elképzelhetetlennek, hogy a hallgatók próbálkozni fognak a könnyebb, egyszerűbbnek tűnő megoldásokkal, akár a gépi szöveggenerálással egy nehezen készülő szakdolgozat kapcsán. Szerinte arról a célról feledkeznek el eközben, hogy ideális esetben a szakdolgozati projekt nem kizárólag a szöveggyártásról és a végeredményről szól, hanem a hallgatók speciális készségeit fejleszti, többek között
- a forráskritikát,
- az absztrahálást,
- a különböző vélemények ütköztetésének a készségét,
- a tudományos stílus elsajátítását,
- a kutatásmódszertani magabiztosságot,
- az önállóságot.
Ha a szöveggyártást elvégzi a hallgató helyett a gép, akkor mindezek a diák számára kimaradnak, és hátrányba kerül a munkaerőpiacon.
Még hibázik, de egyre kevesebbet
Veszelszki Ágnes kiváló példákat látott már a ChatGPT használatára, elsősorban angol nyelven, de hangsúlyozza, hogy képes már magyarul is értelmes, megtévesztésig eredetinek tűnő szövegeket alkotni.
Szerinte érdemes a mondatszerkesztést megvizsgálni, illetve a nyelven kívüli értelmet is ellenőrizni. Ez utóbbira példaként a Medvebor zalai borászat ChatGPT-s kísérletének az eredményét hozta:

A nyelvész-oktató megjegyzi, hogy a fenti példában a magyar nyelv agglutináló (ragasztó) jellege miatt a szegmentálás (pincéről: pincér + ről, pincé + ről) sem sikerült a programnak teljesen.
A kezdetleges fordítóprogramok morfológiai, azaz alaktani hibáit már nem találjuk meg ezekben a szövegekben, mert elsősorban nem a nyelv alkotóelemeiből építkeznek, hanem valódi szövegek mintázatait utánozzák a már említett predikció elve alapján, azaz azt nézi a program, hogy vajon milyen másik nyelvi egység következhet az adott szó után, mi szokott általában előfordulni – ismertette a kommunikációs szakember.
Zenét is komponál az MI, de kié a jogdíj?
A nyelvész-kutató rámutatott, hogy jogászok már több szempontból is foglalkoznak azzal a kérdéssel, hogy ki tekinthető a mesterséges intelligenciával gyártott mű tulajdonosának. Például a „zeneíró” MI meglévő zenei műveket használ fel ahhoz, hogy teljesen új, korábban nem létező darabokat írjon, akár klasszikus stílusban, akár a legvadabb deathmetalzenék esetén.
Van olyan alkalmazás, amely arra képes, hogy néhány másodpercnyi zenehallgatás után ugyanabban a stílusban folytassa a zenét, például egy zongoradarabot: ez a predikció alapján működik, vagyis megkeresi a mintázatokat az óriási adatbázisban, és előre jelzi, hogy ezek szerint milyen hang(kombináció) szokott rendszerint előfordulni.

De van több olyan YouTube-csatorna is, amelyen folyamatosan, 24 órában lehet egy adott stílusú zenét hallgatni, mindenféle előzetes minta (tehát zenedarabba való belehallgatás) nélkül, de létező zenékre építve. A kérdés tehát az, hogy kell-e jogdíjat fizetni az eredeti zenék alkotóinak.
Hogyan követhető nyomon, melyik szekvenciát honnan vette a sokszor black boxként, azaz feketedobozként is jellemzett mesterséges intelligencia? A black box arra utal, hogy nem mindig tudjuk, milyen alapon, milyen módszerrel jutott arra az eredményre, amit a folyamat végén megkapunk.
Technikai megoldás lehet erre a digitális vízjelezés,
azaz az eredet jelzése, ám ez sem ennyire egyszerű. Ugyanezek a kérdések felmerülnek a tenyésztett szövegek kapcsán is: vajon kié a végleges szöveg? Aki a megfelelő kérdéseket feltette a chatbotszerű AI-nak, vagy aki a kiinduló, mintaként használt eredeti szövegeket megalkotta? „Nincsenek erre egyelőre megnyugtató válaszaink: sem az AI-etika, sem pedig a jog nem tud egyelőre az űrversenyhez hasonlító tempójú technológiai fejlődéssel lépést tartani és azonnali válaszokat adni” – zárta gondolatait Veszelszki Ágnes.
(Borítókép: Veszelszki Ágnes. Fotó: Szollár Zsófi / Index)
Ehhez a cikkhez ajánljuk
- Gazdaság
Engedett a Nemzetgazdasági Minisztérium, visszavont egy jogszabálytervezetet
A beérkezett észrevételeket figyelembe véve döntöttek így.
február 20., 16:13
- Gazdaság
Ha beválnak a tervek, hatalmas lökést kaphat Orbán Viktor szekere
Bemondták, mekkora hátszelet adhat idén Magyarország húzóágazata.
február 20., 14:24
- Gazdaság
Érkezik az év legnagyobb kamatesője
Több mint 2200 milliárd forint sorsa dől el.
február 20., 08:33
- Mindeközben
A Cápák között vállalkozója magára tetováltatta a terméke logóját, annyira hisz annak sikerében
3 órája
- Mindeközben
Évek óta nem hallani az RTL egykori műsorvezetőjéről: „Máig felismernek az utcán, megkérdezik, hová tűntem”
4 órája
- Gazdaság
Válaszolt a Hell a támadásokra
Hangsúlyozzák, hogy tulajdonosaik sosem törekedtek arra, hogy reflektorfényben legyenek.
február 20., 11:20
- Gazdaság
Hiába a kormányzati élénkítés, nincs pénzük a magyaroknak, és ez jól látszik
A szakszövetség szerint idén még nem lesz érzékelhető a lakhatási válságon enyhíteni szándékozó lépések eredménye.
február 20., 16:59
- Gazdaság
Az ingatlanárak repülőrajtot vettek, ám a lakásépítések padlót fogtak
Kérdés, lendíthetnek-e a helyzeten a lakhatási válság enyhítését célzó állami intézkedések.
február 20., 08:55
- Gazdaság
Csaknem 700 milliárdot bukott eddig Magyarország a kohéziós alapból, de messze még a vége
Ha 2025-ben sem sikerül megállapodni, újabb százmilliárdok bánják.
2 órája
- Gazdaság
Akár 300 ezres bírságot kockáztat, aki nem végzi el a NAV adategyeztetését
A hivatal átláthatóságot vár a döntéstől.
február 20., 07:29
- Gazdaság
Leállás jön Magyarország egyik legnagyobb bankjánál
Harminc órán keresztül nem lesznek elérhetőek bizonyos szolgáltatások a CIB Banknál.
február 20., 08:36
- Gazdaság
Százhúsz éve harcolnak érte, ilyen lesz az új magyar híd
Mohácsnál megkezdődtek a munkálatok.
február 20., 12:45
- Gazdaság
A vadkapitalista időszak a múlté, a köd oszlik, a bizalom növekszik a magyar lakosságban
Létezik-e olyan, hogy etikus biztosítás? Utánajártunk.
február 19., 16:03
- Címlapon
Az orosz–amerikai tárgyalások miatt félő, hogy a történelem megismétli önmagát
A Szudéta-vidék átadása? Jalta 2.0? Amikor a nagyhatalmak a kelet-európaiak feje felett döntöttek a sorsukról.
3 órája
- Címlapon
Emmanuel Macront még soha nem alázták meg úgy, mint Donald Trump a Fehér Házban
Az orosz−ukrán háborúról egyeztettek a felek, amikor furcsa jelenet zajlott le.
8 órája
- Címlapon
Felrobbant egy Ukrajnának gyártott harckocsi Szlovákiában
A szlovák védelmi miniszter nem zárja ki egy harmadik fél beavatkozását.
54 perce
- Címlapon
Úgy szóltak be Orbán Viktornak, hogy ott sem volt
Az egyik felszólalást bekiabálás akasztotta meg.
6 órája
- Címlapon
A magyarok egy része kételkedik az új gazdasági lépésekben
A nyugdíjasok áfa-visszatérítésével és a gyerekesek szja-mentességével kapcsolatban is hasonlóan gondolkodnak.
26 perce
- Gazdaság
Történelmi lépés: már épül a magyar kikötő Triesztben
A beruházás első fázisában egy 250 méteres partfalszakaszt építenek.
február 20., 21:14
- Címlapon
„Édesanyámhoz közel csapódott be a rakéta, ez győzte meg, hogy hagyjuk el Ukrajnát”
Különleges történetekről számoltak be lapunknak a Magyarországra érkezők, volt, akinek aknamezőn keresztül kellett menekülnie.
3 órája
- Gazdaság
Rangos díjat nyert Orbán Gábor, a Richter vezérigazgatója
265 vezérigazgató véleménye alapján nyerte el az elismerést.
február 19., 13:27
- Gazdaság
Tömeges leépítést jelentett be egy német autóipari beszállító
2026 végéig hajtják végre.
február 19., 12:37
- Gazdaság
Lerántották a leplet: ilyen lesz a béke utáni Magyarország
Belekóstoltunk, milyen az, ha közelít az orosz–ukrán háború lezárása.
február 19., 11:45
- Mindeközben
Opitz Barbi faképnél hagyta a Házasság első látásra Szabiját, csúnyán összekaptak egy luxusétteremben
5 órája
- Gazdaság
Elfogadták Brüsszelben Magyarország középtávú költségvetési tervét
Nagy Márton közölte a részleteket.
február 19., 13:14
- Gazdaság
Romániai céget vásárol fel a Duna Aszfalt Zrt.
Az adásvétel értékét a felek nem hozták nyilvánosságra.
február 19., 07:19
- Mindeközben
Millie Bobby Brown alig múlt 21 éves, de elérte, hogy mindenki tíz évvel idősebbnek nézze
7 órája
- Mindeközben
Titokban megszületett Palácsik-Ráthonyi Tímea kisfia, közben a másodikkal várandós
10 órája
- Címlapon
Lázár János fogadta Toroczkai Lászlót, és egyetértettek egy fontos kérdésben
A Mi Hazánk javaslatából születhet majd meg az új törvény.
2 órája
- Gazdaság
Nagy dobásra készül a 4iG, újra a SpaceX-szel tárgyaltak Washingtonban
A decemberi mar-a-lagói találkozó után folytatódtak a megbeszélések.
február 19., 10:42
- Gazdaság
1,3 milliárdért eladta az állam Balatonföldvár egyik legértékesebb területét
Az eladási ár azt mutatja, hogy igen jelentős lehetett az érdeklődés az ingatlanra.
február 19., 11:33
- Gazdaság
Nagy üzletre készül Magyarország, széket kér Orbán Viktor a nagyhatalmak asztalánál
Bejelentést tett a kormány.
február 19., 09:04
- Gazdaság
Számos lépést tesz a Lidl mindannyiunk érdekében
A cég évek óta kiemelten kezeli a fenntarthatóság kérdését.
február 19., 14:11