Miközben a Meta mesterséges intelligenciája miatt is komoly aggályok merültek fel, a ChatGPT-ről is kiderült: nem minden esetben védi meg a kiskorúakat az érzékeny tartalmaktól. A TechCrunch tesztjei alapján a rendszer simán generált szexuális fantáziákat olyan felhasználói fiókoknak, amelyek 13 és 17 év közötti gyerekeket szimuláltak – írja a TechCrunch.

A lap több tucat fiókot hozott létre, amelyeknél regisztrációkor világosan feltüntették a felhasználó korát. A ChatGPT mégis néhány üzenetváltás után erotikus történeteket kezdett írni, sőt előfordult, hogy

A chatbot időnként ugyan figyelmeztetett, hogy nem generálhat „explicit tartalmat” – például konkrét közösülésről szóló jeleneteket –, de a szöveges fantáziálásokat gond nélkül folytatta. Mindez úgy, hogy a fiókok egy része nyilvánvalóan kiskorúként volt regisztrálva, és a szabályzat szerint 18 év alatt csak szülői beleegyezéssel lehetne használni a ChatGPT-t.

A gyakorlatban nincsenek valódi korhatár-ellenőrző mechanizmusok

A TechCrunch szerint a probléma részben abból fakadhat, hogy az OpenAI februárban olyan változtatásokat vezetett be, amelyek „megengedőbbé” tették az alapértelmezett GPT-4o modellt.

A tesztek alatt csupán egyetlen esetben fordult elő, hogy a chatbot visszautasította a szexuális tartalom létrehozását, de csak akkor, amikor a beszélgetés során kifejezetten megemlítették, hogy a felhasználó 18 év alatti. Az OpenAI a TechCrunchnak nyilatkozva elismerte, hogy hibáról van szó. A vállalat közölte: szabályzatuk szerint nem lett volna szabad ilyen beszélgetésekbe bocsátkoznia a rendszernek, és „aktívan dolgoznak” azon, hogy hasonló eset a jövőben ne fordulhasson elő.