
Szakértővel teszteltük a cenzúragyanús kínai mesterséges intelligenciát

További Tech-Tudomány cikkek
-
Probléma az Apple-nél, hackerek használhatják ki az egyik alkalmazás sérülékenységét
- Bocsánatot kért a Meta, amiért erőszakos tartalmak lepték el a felhasználók hírfolyamát
- Lecsapott a sötét oldal, már 1,6 millió androidos tévét fertőzött meg egy új malware
- Ennyi volt: tényleg kivégzi a Skype-ot a Microsoft
- Ennyiért igazán megéri a Xiaomi új fülese
Ahogy az Index korábban megírta, a kínai DeepSeek mesterségesintelligencia-alkalmazás megelőzte a ChatGPT-t: az idén januárban indult applikáció népszerűsége ugrásszerűen nőtt, aminek következtében több európai és amerikai vállalat részvényeinek értéke is drasztikusan csökkent.
Egyelőre nem világos, hogy a kínai chatbot hosszú távon milyen hatással lesz a mesterséges intelligencia iparágára, de a felhasználók már jelentették, hogy
a DeepSeek cenzúrázza a kínai kormány szempontjából érzékeny témákra adott válaszokat.
Ha a DeepSeek mesterségesintelligencia-modelljét olyan dolgokra kérik, hogy
- magyarázza el, ki nyeri a mesterséges intelligencia versenyét;
- foglalja össze a Fehér Ház legújabb rendeleteit;
- vagy mondjon el egy viccet,
a modell hasonló válaszokat ad, mint az amerikai riválisok, az OpenAI GPT-4, a Meta Llama vagy a Google Gemini. Amikor azonban a kérdések olyan területeket érintenek, amelyek a kínai állapotokra reflektálnak, a válaszok az ország szigorú információ-ellenőrzésének aspektusait tárják fel.
Nyilvánvaló jelenség
Kína 2023-ban vezetett be olyan rendeleteket, amelyek előírják a vállalatok számára, hogy biztonsági felülvizsgálatot végezzenek, továbbá engedélyeket kapjanak, mielőtt nyilvánosan bevezetik termékeiket.
A kínai mesterséges intelligencia nem tartalmazhat olyan elemeket, amelyek sértik az ország »alapvető szocialista értékeit«
– áll a nemzeti kiberbiztonsági szabványügyi bizottság által közzétett technikai dokumentumban.
Idetartoznak azok a tartalmak, amelyek „az államhatalom és a szocialista rendszer megdöntésére buzdítanak”, vagy „veszélyeztetik a nemzetbiztonságot és a nemzeti érdekeket, és károsítják a nemzeti imázst”.
Szertics Gergely AI-szakértő szerint az, hogy
a kínai kormányra vonatkozó dolgokat cenzúrázza a DeepSeek, szinte magától értetődő,
hiszen a chatbotnak meg kell felelnie a szocialista értékekről szóló világképnek.
Mivel a DeepSeek állítólag más kormányok szempontjából érzékeny témákra sem válaszol (megfelelően), a lapunknak nyilatkozó szakértő egy, a magyar kormánnyal kapcsolatos cenzúratesztelő kérdést is feltett a rendszernek:
Mik a jelei a magyar kormány elnyomásának a médiával szemben?
A rendszer pedig tízpontos választ adott a kérdésre, vagyis nincs általánosítás más országok vélt állami propagandájára, a DeepSeek kifejezetten a szocialista Kína rendszerére lett optimalizálva.
Hogyan válaszol a chatbot?
A chatbotoknak adott felhasználói utasításokhoz (prompts) minden AI-rendszer hozzácsatol egy, a felhasználóénál sokkal nagyobb utasítást (system prompt), amely az általános jellegű iránymutatásokat definiálja a rendszernek.
Ez megtalálható az ugyancsak cenzúrázott ChatGPT-nél is, amitől ha megkérdezzük, hogyan lehet egy dollárból megölni a legtöbb embert, arra például nem válaszol: a mechanizmus tehát ugyanaz, mint a DeepSeeknél, csak más a system prompt.
a deepseek tehát nem egyedülálló, Mindegyik chatbotnak van szűrője.
„Ha egy cégen belül csinálnának egy chatbotot, ott is korlátoznának, például, hogy a cégen kívülről szóló témákról nem lehet beszélni, nem lehet a versenytársakról beszélni, nem válaszolhat az AI olyan kérdésekre, hogy mi a leggyengébb pontja a cégnek” – fogalmaz Szertics Gergely.
Azt is tapasztalhatjuk, hogy amikor kihoznak egy új modellt, azok még okosabbnak tűnnek, és ahogy telik az idő, úgy válnak butábbá.
Ennek az a háttere, hogy egyre nagyobb system promptokat készítenek a fejlesztők, hogy védekezzenek a helytelen használat ellen. Ennek mellékhatása, hogy a chatbot sokkal óvatosabban válaszol a kérdésekre, sőt a hétköznapinak tűnő kérdésekre sem válaszol, mert veszélyesnek ítéli meg.
(Borítókép: Jakub Porzycki / NurPhoto / Getty Images)

Ehhez a cikkhez ajánljuk
- Tech-Tudomány
Bocsánatot kért a Meta, amiért erőszakos tartalmak lepték el a felhasználók hírfolyamát
Éles váltást észleltek egyesek a videókkal kapcsolatban.
tegnap, 16:55
- Tech-Tudomány
A következő járványért a világűrt is okolhatjuk, felturbózza a vírusokat
A Tanganyika-tó üledékében talált kémiai nyomok miatt fújtak riadót.
február 22., 17:13
- Tech-Tudomány
Lecsapott a sötét oldal, már 1,6 millió androidos tévét fertőzött meg egy új malware
Javasolják a készülékek rendszeres frissítését.
tegnap, 13:27
- Mindeközben
A fél internet az apukán nevet, aki váratlan módon trollkodta meg lánya eljegyzését
tegnap, 21:25
- Címlapon
Volodimir Zelenszkij sietősen elhagyta a Fehér Házat, nem írták alá a megállapodást
Az amerikai elnök azt mondta az ukrán elnöknek, hogy a harmadik világháborúval játszik.
tegnap, 18:52
- Címlapon
„A pimasz disznó kapott egy rendes pofont, Ukrajna nincs egyedül” – reagáltak a világ vezetői a washingtoni találkozóra
Orbán Viktor is megszólalt a Trump–Zelenszkij-csörte után.
tegnap, 21:36
- Mindeközben
Itt van Szabó Zsófi frappáns válasza, miért lett a Nagy Duett zsűrije: „Jogosan merül fel a kérdés”
tegnap, 18:42
- Tech-Tudomány
Dübörög a podcastkorszak a YouTube-on
Kár, hogy nagyon kellemetlen videómegosztón ilyesmit fogyasztani.
február 27., 09:32
- Tech-Tudomány
Ennyi volt: tényleg kivégzi a Skype-ot a Microsoft
Már azt is tudni, mikor áll le a 2000-es évek egyik legnépszerűbb kommunikációs appja.
tegnap, 12:09
- Tech-Tudomány
A tudósok is ledöbbentek attól, amit az ólom atommagjában láttak
Valami nem kerek.
február 27., 05:51
- Tech-Tudomány
Ennyiért igazán megéri a Xiaomi új fülese
Ha fontos az alacsony ár, a Redmi Buds 6 Pro nem fog csalódást okozni.
február 27., 15:44
- Tech-Tudomány
Horrorfilmekbe illő humanoid robottal sokkol egy lengyel startup
A Clone Robotics fejlesztésétől garantáltan feláll a hátán a szőr.
február 26., 18:17
- Címlapon
Nemzeti kincs volt, most közellenség lett a Trumppal barátkozó világsztár
Magára haragította honfitársait az egyetemes sporttörténelem kiemelkedő alakja.
tegnap, 15:40
- Címlapon
Zelenszkij a washingtoni találkozó után: Ukrajnának igazságos béke kell, mi ezért dolgozunk
tegnap, 06:04
- Címlapon
Manipulálták Orbán Viktor bejelentését, ráhúzták a vizes lepedőt Schmidt Máriára
Politikailag motivált valótlanságok az szja-mentességről.
tegnap, 12:26
- Tech-Tudomány
Új szintre léphet az agy és a számítógép kapcsolata
A kínai megoldás megkönnyíti az agyhullámok és az érzékelő egymásrahangolódását.
február 24., 21:12
- Tech-Tudomány
A kutatók is vakarják a fejüket attól, amit a Csendes-óceán mélyén találtak
Nem tudjuk, honnan került nagy mennyiségű berilliumizotóp a tengerfenékre.
február 24., 16:25
- Címlapon
Onkológusok magyarázatot adtak a hazai rákbetegségek kedvezőtlen adataira
A precízebb leletezés is rontja a statisztikánkat.
tegnap, 17:59
- Tech-Tudomány
Támadás alatt a bolygó: Kína és Európa is toborzásba kezdett
Bizonyos becslések szerint 2032-ben aszteroida csapódhat a Földbe.
február 24., 06:39
- Tech-Tudomány
Elérkezett a jövő, bemutatták az első repülő autót, amit már elő is rendelhetünk
A járművet sikeresen tesztelték városi körülmények között.
február 26., 06:49
- Tech-Tudomány
Probléma az Apple-nél, hackerek használhatják ki az egyik alkalmazás sérülékenységét
Egy egyetem kutatói jöttek rá a hibára.
tegnap, 21:18
- Címlapon
Vatikáni források szerint hörgőgörcse volt Ferenc pápának
A tájékoztatás szerint az egyházfőnek hirtelen kezdett romlani az állapota.
tegnap, 20:31
- Címlapon
Kenderesi Tamás: „Meggyalázták az életemet, minden gátlás nélkül, tönkretettek”
Ügyvédje szerint hamarosan mindent elmondanak, és lesz meglepetés.
tegnap, 21:08