Dán kutatók bizonyították: nem moderálják az önkárosító tartalmakat az Instagramon

Dán kutatók az Instagramon létrehoztak egy privát önkárosító profilt, amely 13 éves kamaszok hamis képeit tartalmazta. Az oldalon 85 darab, vért és borotvapengét is ábrázoló fotót osztottak meg, amelyek fokozatosan súlyosbodtak, és önkárosításra is buzdítottak – írja a The Guardian. 

A vizsgálat célja az volt, hogy teszteljék a Meta állítását, miszerint jelentősen javította a káros tartalmak eltávolítására szolgáló eljárásait, amelyekhez már mesterséges intelligenciát is használ.

A technológiai vállalat ugyanis azt közölte korábban, hogy a káros tartalmak 99 százalékát eltávolítja, mielőtt azokról bejelentés érkezne. 

A Digitalt Ansvar szerint a Meta nem megfelelő moderálása arra utal, hogy nem tartja be az uniós jogszabályokat. A digitális szolgáltatásokról szóló törvény előírja a nagy digitális szolgáltatók számára, hogy „azonosítsák a rendszerszintű kockázatokat, beleértve a fizikai és mentális jóllétre gyakorolt, előrelátható negatív következményeket”.

Reagált a Meta

A Meta szóvivője elmondta: „Az önkárosításra buzdító tartalmak ellentétesek az irányelveinkkel, és amikor észleljük őket, eltávolítjuk őket. 2024 első felében több mint 12 millió, öngyilkossággal és önkárosítással kapcsolatos anyagot távolítottunk el. Az év elején elindítottuk az Instagram Teen Accounts szolgáltatást, amely a tinédzserek profiljait fokozottan ellenőrzi, így még kevésbé valószínű, hogy érzékeny tartalmakat ajánlunk nekik, és sok esetben teljesen elrejtjük ezeket a bejegyzéseket” – közölte a cég. 

A dán tanulmány azonban azt találta, ahelyett hogy megpróbálták volna letörölni az önkárosító tartalmakat, az Instagram algoritmusa aktívan segítette terjedésüket. Ez a tanulmány szerint „arra utal, hogy az Instagram algoritmusa jelentősen hozzájárul az önkárosító hálózatok létrehozásához és terjedéséhez”.

Az Observernek Ask Hesby Holm, a Digitalt Ansvar vezérigazgatója elmondta, hogy a céget sokkolták az eredmények, mivel azt gondolták, egy idő után megkongatják a vészharangot a platformon. „Az önkárosító képek moderálásának elmulasztása súlyos következményekkel járhat. Ez nagymértékben összefügg az öngyilkossággal” – mondta. 

Mint megírtuk, márciusban a Meta tanácsadó pszichológusa lemondott posztjáról, ugyanis elmondása szerint az Instagram és a Facebook anyacége valójában nem akar törődni a felhasználók jóllétével és biztonságával.

Ha ön is úgy érzi, segítségre lenne szüksége, hívja a krízishelyzetben lévőknek rendszeresített, ingyenesen hívható 116-123-as telefonszámot! Kérjük, olvassa el ezt az oldalt! Amennyiben másért aggódik, ezt az oldalt ajánljuk figyelmébe.