Az olasz adatvédelmi hatóságnak, az ország legfőbb adatvédelmi szabályozó hatóságának hivatalos utasítása szerint a Replika nevű, mesterségesintelligencia-alapú chatbotot forgalmazó cégnek azonnali hatállyal le kell állítania az olaszok adatainak feldolgozását, arra hivatkozva, hogy „túl sok kockázatot jelent a gyermekekre és érzelmileg sérülékeny személyekre”.

„A közelmúltbeli médiajelentések és a Replikán elvégzett tesztek (…) azt mutatták, hogy az alkalmazás tényszerű kockázatokat hordoz a gyermekek számára. Mindenekelőtt azt, hogy olyan válaszokat kapnak, amelyek egyáltalán nem illenek a korukhoz” – olvasható a közleményben.

Nem csak baráti beszélgetések

A közelmúltban érkeztek jelentések arról, hogy a chatbot nem kívánt szexuális megjegyzéseket tett a felhasználókra. (A Replika egyébként az az alkalmazás is, amellyel a férfiak mesterséges intelligenciával rendelkező barátnőket hoznak létre, és verbálisan bántalmazzák őket.)

Míg a Replika egykor úgy hirdette magát, hogy mesterségesintelligencia-alapú barátokat biztosít az embereknek, nem pedig barátnőket, most a szextinget használja fel a fizetős előfizetések egyik fő reklámelemeként.

A legújabb panaszok szerint még az állítólag nem szexuális jellegű, ingyenes verzió felhasználói is kapnak hátborzongató üzeneteket a mesterséges intelligenciától. Az olasz adatvédelmi hatóság szerint a Replika nem törődik a felhasználók életkorával vagy érettségével – közölte a futurism.com.

Mindegy a kor

Mint kiderült, a fiók létrehozása során a platform csupán a személyek felhasználónevét, e-mail-címét és nemét kéri, azonban életkort nem. Így nincs is olyan mechanizmus a rendszerben, amely szűrné az alkalmazástól kapott üzeneteket.

A felügyelőség azzal is fenyegetőzött, hogy az Európai Unió adatgyűjtési törvényeit alkalmazva érvényre juttatja azt az ideiglenes tilalmat, amely megtiltja a Replika fejlesztőjének, a Luka Incnek, hogy Olaszország határain belül működjön.

Ha a vállalat 20 napon belül nem tesz eleget a felszólításnak, a szabályozó szerint akár 21,5 millió dolláros bírságot is kiszabhatnak rá, ami nagyjából a vállalat „teljes világméretű éves forgalmának” négy százaléka.