Kezdődik: hülye kifejezésekkel mérgezi a tudományt a mesterséges intelligencia

Hallott már a vegetatív elektronmikroszkópiáról? A pár éve felbukkant kifejezés akár egy újító technikát vagy egy ismert képalkotó módszer új megközelítésű felhasználását takarhatná, de van benne egy megfoghatatlan esetlenség, ami akadályként hat annak megfejtésében, hogy mi is lehet a gyakorlatban.

A helyzet, hogy a vegetatív elektronmikroszkópia nem létező dolog. Minden jel szerint egy mesterséges intelligenciából származó egzotikus hiba, amely a szakértők szerint mára egyfajta digitális fosszíliává vált, mint a törzsfejlődés labirintusában rossz helyen bekanyarodó, borostyánban megőrződött ősállat.

A különös kifejezés két iráni tudományos dolgozatban bukkant fel, amelyeket 2017-ben és 2019-ben közöltek. A dolog a szakavatott szemlélő számára elírásnak tűnhet, a „pásztázó” és „vegetatív” kifejezések között a perzsa írásban konkrétan egyetlen pont (vagy inkább ékezet) a különbség.

A potenciális gépelési hiba azonban mára túlnőtt önmagán. 2020 után egyre gyakrabban tűnt fel, a Google Scholar kereső szerint tucatnyi cikkben szerepel, minden jel szerint iráni dolgozatgyárosok egyik védjegyévé vált. Megjelent egy Springer Nature kiadvány azóta visszavont cikkében, egy Elsevier-kiadványnál pedig egy hibajavítást ért, miután beszivárgott egy szerkesztőjük által jegyzett anyagba.

Az Elsevier esetében azzal védték meg a mezőgazdasági hulladék hasznosításáról szóló érintett cikket, hogy a vegetatív elektronmikroszkópia alatt a baktériumok vegetatív struktúráin végzett elektronmikroszkópos vizsgálatát értették.

A Springer Nature visszavonás esetében az iráni tudósok mellett szerzőként szerepelt a spanyol Rafael Luque professzor is, akit 2023 tavaszán felfüggesztett állásából a Córdobai Egyetem. Luque napjaink legtöbbet idézett tudományos szerzői közé tartozott, több mint 700 publikációval. Ezzel csupán annyi volt a probléma, hogy emberfeletti tempóban termelte a kutatásokat, az El País számításai szerint felfüggesztése előtt mintegy 37 óránként jelentetett meg tudományos eredményeket. 

Ez még a tudomány „publikálj vagy pusztulj” világában is valóságtól elrugaszkodott teljesítmény. Luque egyébként nem hagyta magát, igazi kalózkapitányként reagált a felfüggesztésére: közölte, hogy az egyetem jól lábon lőtte magát, és elbúcsúzhat a publikációkat számoló sanghaji rangsorban elért helyezésétől.

Sorok között, hasábok között

Luque bukásában fontos szerepe volt a vegetatív mikroszkópiának, ugyanis ez tűnt fel a hamisítást leleplező orosz matematikusnak, Alekszandr Magazinovnak, aki szerint ez egy jellegzetes erőltetett bikkfanyelv, amilyeneket a mesterséges intelligencia szokott produkálni.

Magazinov gyanúját igazolták a Queenslandi Egyetem mesterségesintelligencia-kutatói, akik megállapították, hogy a kifejezést valóban ismerik a nyelvi modellek. A promptokkal végzett felderítés szerint a GPT-2-ben még nem, de a GPT-3-ban már szerepel, és a későbbi modellekben is, mint az OpenAI GPT-4o vagy Anthropic Claude 3.5.

Az ausztrál tudományos nyomozók szerint a modellek fejlesztésekor csúszott be a hiba. Mint ismert, a nyelvi modellek betanítása során a fejlesztők felhasználnak minden hozzáférhető strukturált szöveget, a Wikipediától a digitalizált antik könyvekig. A malőr az egyik ilyen adathalmazban, az internetes oldalak tartalmát gyűjtő több millió gigabájtos CommonCrawlban keletkezhetett, de nem a strukturált adatokban, hanem a beolvasás során, amikor a rendszer a két különböző hasábban egymás mellé kerülő kifejezéseket egybeolvasta.

A vegetatív mikroszkópia ma egy kifejezés a sok közül, amire piros zászlót dobnak a szöveg integritását és valódiságát ellenőrző programok. Az egyelőre titok, hogy hány ilyen bukkan még fel, de már most látszik, hogy az emberi tudásba beékelődő hibák új kategóriáját képezik az ehhez hasonló artefaktumok. A gépi zaj egyre inkább beszűrődik, és továbbörökíti magát, jelenleg a szűrőprogramok fejlesztői és a Magazinovhoz hasonló hobbisták próbálják megszabadítani tőle a tudományt.

(The Conversation, El País, RetractionWatch)