Gyöngyi
10 °C
25 °C
Index - In English In English Eng

Ez az oldal megmondja, hogy AI írt-e egy cikket

2019.03.12. 09:26

Szűk egy hónappal ezelőtt mi is beszámoltunk arról, hogy az OpenAI kutatói annyira jó szövegíró mesterséges intelligenciát (AI) csináltak, hogy nem merik közzétenni, most azonban megint kiderült, hogy sárkány ellen sárkányfűvel érdemes harcolni: az MIT-IBM Watson AI Lab és a Harvard kutatói GLTR néven olyan algoritmust hoztak létre, ami pont az ilyen botok által létrehozott szövegről állapítja meg, hogy nem ember írta – írja a Futurism.

Mikor az OpenAI februárban bemutatta a GPT-2 névre hallgató projektjét, az AI az újrahasznosítás káros hatásairól és kutatók által felfedezett unikornisokról írt szokatlanul meggyőző cikkeket. A bot ezt úgy érte el, hogy hosszas tanulás után képes volt meglepő eredményességgel megtippelni, hogy melyik szavaknak kell egymást követnie, a GLTR pedig pontosan ugyanígy dolgozik, csak azt próbálja meg kideríteni, hogy egy mondatban milyen szavakat használna egy szövegíró algoritmus.

Azt feltételezzük, hogy az AI által generált szövegekről azért hiszik el az emberek, hogy valóságosak, mert a szövegekben csak olyan szavak szerepelnek, amik leginkább beleillenek a mondatokba.

– írták az algoritmust kifejlesztő kutatók, hozzátéve, hogy egy ember által írt szöveg ezzel szemben gyakran tartalmaz olyan kifejezéseket, amik jelenléte a kontextus szempontjából logikus, de nem az lenne a legkézenfekvőbb megoldás.

Éppen emiatt lehet megállapítani egy szövegről, hogy ember vagy gép írta-e, ezt pedig már működés közben is meg lehet nézni, a kutatók ugyanis fellőttek egy demót, ami előre programozott szövegeket, vagy akár saját cikkeket is képes ellenőrizni. A program színekkel emeli ki az egyes szavakat attól függően, hogy mekkora a valószínűsége annak, hogy egy AI írta őket: ha az egész szöveg zöld, akkor minden bizonnyal gép volt az elkövető, ha viszont sok a vörös, vagy lila szín, az jó eséllyel egy ember műve lehet.

ai.PNG
Fotó: gltr.io

A GLTR persze egyelőre nem tökéletes, az már most kiderült, hogy bár a GPT-2-vel szemben kiválóan működik, más algoritmusoknál korántsem ennyire eredményes, vagyis úgy tűnik, hogy egy ilyen eszköz nem lesz elég az ehhez hasonló programok ellen.