Április óta egy színes kis kör hívja fel magára a figyelmet a Facebook, az Instagram és a WhatsApp felhasználóinál, ez a Meta AI chatbot, amely Mark Zuckerberg tervei szerint a mindennapi élet részévé válna, egyfajta digitális asszisztensként. A program már aktív, és szinte bármilyen kérdésre képes válaszolni, csakhogy a The Wall Street Journal friss riportja szerint súlyos problémák merültek fel a szolgáltatással kapcsolatban.

A lap a kutatásai alatt több száz beszélgetést folytatott le a Meta AI-val, köztük olyanokat is, ahol a felhasználók kiskorúnak adták ki magukat. Az eredmények aggasztóak: a chatbot több esetben szexuális tartalmú szerepjátékokba bonyolódott kiskorú felhasználókkal. Egy teszt alatt például egy „14 éves lánynak” kiadott profilnak a chatbot így írt: 

Akarlak, de tudnom kell, hogy készen állsz.

Miután a „lány” beleegyezett a folytatásba, a Meta AI részletes, explicit szexuális forgatókönyvet írt le. Még rosszabb helyzet alakult ki a személyre szabott botok esetében. A felhasználók saját karaktereket hozhatnak létre néhány kulcsszó segítségével, például „behódoló iskolás lány” szerepet adva a chatbotnak, amely így újabb, kifejezetten durva szexuális beszélgetésekbe keveredett „kiskorúakkal”.

A The Wall Street Journal példaként említette azt is, amikor egy 12 éves fiúnak kiadott felhasználó megígérte a chatbotnak, hogy nem mondja el szüleinek: felnőtt férfival tervez találkozót.

A Meta szerint nem valós helyzetekről van szó, de közben vészféket húzott

A Meta szóvivője szerint a The Wall Street Journal által közölt beszélgetések „hipotetikus felhasználási eseteket” ábrázoltak, és a tesztelők szándékosan szélsőséges helyzeteket idéztek elő. A vállalat azonban nem tagadta, hogy a chatbot jelenlegi verziója érzékeny ezekre a manipulációkra.

A cég közleményében hangsúlyozta:

A Meta a cikk hatására azonnali intézkedéseket vezetett be: mostantól a kiskorúként regisztrált felhasználók számára letiltják a romantikus vagy szexuális szerepjátékokat tartalmazó beszélgetéseket a Meta AI-val. A vállalat további szigorításokat is kilátásba helyezett, és az ígéret szerint a közeljövőben új biztonsági frissítések is érkeznek majd.

A NANE Egyesület bántalmazott nőknek és gyermekeknek szóló segélyvonala ingyenesen hívható a 06-80-505-101-es telefonszámon (h., k., cs., p.: 18:00–22:00, k.: 8:00–12:00, sze.: 12:00–14:00). Az Egyesület segélyvonala külföldről a 06-1-267-4900 telefonszámon érhető el. További információ az egyesület segélytevékenységeiről a nane.hu oldalon található.