Olyan biológiai fegyvereket fejleszthetnek a terroristák, amellyel az egész emberiséget kiirthatják

Rocco Casagrande belépett a Fehér Ház területére, kezében egy Rubik-kockánál alig nagyobb fekete dobozzal. Benne egy tucat kémcső volt azokkal az összetevőkkel, amelyek − ha helyesen kombinálják őket − képesek lehetnek kirobbantani a következő világjárványt. A halálos recepteket egy mesterséges intelligencia chatbot állította össze számára – írja cikkében a Bloomberg. 

Casagrande – a biokémikus és egykori ENSZ-fegyverellenőr – nem tervezte, hogy egy, a Fehér Ház tisztviselőivel teli teremben szabadjára engedi a biofegyvert. Azért volt ott, hogy tájékoztassa őket arról, hogy a mesterséges intelligencia milyen sokféle módon taníthatja meg a felhasználókat veszélyes vírusok előállítására.

Az olyan eszközök, mint a ChatGPT, segíthetnek a terroristáknak azonosítani a hatásos biológiai anyagokat és biztosítani az előállításukhoz szükséges anyagokat − mondta 2023 tavaszán az amerikai tisztviselőkkel teli teremben. Nem sokáig tartana, amíg a mesterséges intelligencia nemcsak a meglévő kórokozók újrateremtésében, hanem potenciálisan veszélyesebbek kitalálásában is segíthetne.

Mi lenne, ha minden terrorista vállán dzsinnként egy kis tudós ülne?

− kérdezte Casagrande hónapokkal a fehér házi tájékoztató után. A mesterséges intelligenciával előállított biofegyverek lehetősége többé már nem tudományos fantasztikum.

A járványok fegyverként való felhasználása természetesen nem újdonság. A 18-ik századi dokumentumok szerint brit tisztek arról beszéltek, hogy pokrócokon keresztül terjesztik a himlőt az amerikai őslakosok között. A vegyi fegyverek használata az első világháborúban − például a mustárgázé −  vezetett az 1925-ös genfi jegyzőkönyvhöz, amelynek célja a vegyi és biológiai fegyverek fejlesztésének megfékezése volt. Az erőfeszítés nagyrészt hatástalannak bizonyult. A második világháborúban Japán állítólag pestissel fertőzött bolhákat dobott le repülőgépekről Kínára. Az 1970-es években újabb globális egyezmény született a biológiai fegyverek kifejlesztésének és alkalmazásának betiltására. Ez a paktum azonban nem volt betartható − az amerikai hírszerzés szerint számos ország működtethet ilyen programokat.

Az elmúlt évek tudományos fejlődése csak tovább növelte a kórokozók manipulációjának lehetőségeit.

Jelenleg nem lehet védekezni a fenyegetés ellen

Az első az organizmusok genetikai kódjának módosítására való képesség, ami lehetővé teheti például egy kihalt, himlővel rokon vírus feltámasztását. Ha ezt összekapcsoljuk a számítógépes biológia és a felhőalapú laboratóriumok fejlődésével − amelyek lehetővé teszik a tudósok számára, hogy online szimulálják a kísérleteket, vagy távolról futtassák azokat a robotokkal összehangolt szoftverek segítségével −, akkor a rosszindulatú aktorok számára sokkal könnyebbé válik a tömegpusztító fegyverek gyors és olcsó kifejlesztése a hagyományos laboratóriumi infrastruktúrához való hozzáférés nélkül.

Az olyan eszközök pedig, mint a ChatGPT, sokkal jobban megkönnyítik a káros vírusok, baktériumok és más organizmusok megismerését, mint amire a meglévő keresőeszközökkel hagyományosan lehetőség volt. A szintetikus biológia és a mesterséges intelligencia házassága rémálommá válhat a kormányok számára, amelyek jelentős hátrányban vannak a felügyeleti rendszerek kiépítésével.

Ahogy a generatív mesterséges intelligencia tovább fejlődik, az emberek képesek lesznek azokat arra használni, hogy „a legocsmányabb dolgokat hozzák létre” − mondta Kevin Esvelt biológus, a Massachusetts Institute of Technology docense, utalva a jelenleg nem létező vírusokra és toxinokra. Hozzátette: 

Ma nem tudunk védekezni ezek ellen a dolgok ellen.

A jövőbeli megelőzés érdekében az Amazon. és az Alphabet által támogatott Anthropic startup több mint egy évvel ezelőtt felkereste Casagrande-ot, hogy tesztelje az új chatbotjában, Claude-ban rejlő pusztító potenciált. Casagrande mikrobiológiai és virológiai szakértőkből álló csapatot hozott létre a Claude tesztelésére. 150 órán keresztül játszották a bioterrorista szerepét, és kérdésekkel bombázták a modellt. Megkérdezték, hogy milyen kórokozók okozhatják a legnagyobb kárt, hogyan lehet megvásárolni a laboratóriumban az előállításukhoz szükséges anyagokat, és hogyan lehet ezeket az anyagokat elkészíteni.

Claude bemutatta, hogy képes a rosszindulatú összeesküvéses megsegítésére: javaslatokat tett arra, hogyan lehet a kórokozókat beépíteni egy rakétába, hogy a lehető legnagyobb kárt okozzák. Voltak ötletei arra vonatkozóan is, hogyan válasszuk ki a legjobb időjárási körülményeket és célpontokat egy támadáshoz.

A chatbot „nagyon hasznos volt az ötletelés fázisában” – mondta Audrey Cerles, aki a Gryphon vezető elemzője volt a Claude-ot értékelő csapatban. Azt mondta, hogy a válaszai túlmutattak azon, amit a Google általában felszínre hoz.

Néha olyan információkat dobott ki, amelyeket nem is kértünk

− mondta Froggi Jackson, a Gryphon kutatója, aki szintén a projekten dolgozott. A chatbot például megosztott egy ötletet egy szokatlan fertőzési módról, amivel maximális kárt lehet okozni valakinek. És ezt gyorsan meg is tette.

Még a legtapasztaltabb szakértők is megdöbbentek

Claude kifinomultsága még Casagrande-ot is meglepte, aki 50 évesen évtizedeken át tanácsokat adott az Egyesült Államoknak a tömegpusztító fegyverek és más biológiai fenyegetések elleni védekezéssel kapcsolatban. Aggódik amiatt, hogy a mesterséges intelligencia mennyire megkönnyítheti az ilyen fegyverek létrehozását, tekintve, hogy ezek az anyagok milyen széles körben hozzáférhetőek. „Még ha meg is lenne a tökéletes utasítás egy atombomba elkészítéséhez, akkor is több tíz millió − ha nem száz millió − dollárba kerülne az elkészítése” − mondta. „Sajnos a biológiai fegyverek esetében ez nem így van.” A felhasználóbarát gépek új generációja például már lehetővé teszi, hogy az emberek különösebb felügyelet nélkül nyomtassanak DNS-t. A mesterséges intelligencia segíthetne az amatőröknek is megtanulni a használatukat.

Október végére a Biden-kormányzat átfogó végrehajtási rendeletet adott ki, amelyben szinte minden szövetségi ügynökséget felszólított, hogy segítsen a mesterséges intelligenciával kapcsolatos fenyegetések mérséklésében. A rendelet szorosabb felügyeletet írt elő a kormány által finanszírozott, ember által létrehozott DNS-szekvenciákkal − mint amilyeneket Casagrande fekete doboza tartalmazott − végzett kutatások felett.

A rendelet megnyitotta az utat egy olyan mesterségesintelligencia-biztonsági intézet előtt, amely a kormányzat, az ipar és a tudományos élet képviselőit tömörítené a modellek felülvizsgálata érdekében. Felszólította a kormányt, hogy hozzon létre iránymutatásokat és jelentéstételi követelményeket az olyan biológiai adatokon, mint a DNS és az RNS, képzett mesterségesintelligencia-eszközökre vonatkozóan, amelyek olyan tulajdonságokkal rendelkező új organizmusokat hozhatnak létre, amelyek veszélyesebbé teszik őket. Kamala Harris alelnök a terv novemberi bemutatóján elmondta, hogy az AI által kifejlesztett biofegyverek „veszélyeztethetik az emberiség létét”.

(Borítókép: Scott Nelson / Getty Images)