Rasszista városvezető lenne a mesterséges intelligencia

Miközben a mesterséges intelligencia töretlenül tör előre az élet szinte minden területén, a kezdeti nagy lelkesedés után most már egyre több kritikus hangot is hallani, amik vitatják, szükségünk van-e rá igazán létünk könnyűvé tételéhez, még ha nem is lenne elviselhetetlen. Vagy lehet, hogy az lenne?

Egy új vizsgálat az intelligens városokat állította fókuszba, amiket eddig a jövő metropoliszaiként hirdettek, de az AI könnyítésein túl most már az erkölcsi kérdések is terítékre kerültek, és a helyzet korántsem egyszerű.

A mesterséges intelligencia fejlődése befolyásolja a városok fejlődését is, az AI változására pedig a mi cselekedeteink hatnak. Az például, ahogyan közlekedünk, vásárolunk, fogyasztunk, segít a tömegközlekedés vagy a járművek vagy a szokási statisztikák felállításában. Az egyéni adatokból összeáll egy város rendszereinek térképe.

Az intelligens városok szenzorrendszerekből gyűjtenek információkat, és érzékelőhálózatokat használnak az adatok számszerűsítésére. Ennek alapján az okosépületek képesek kiszámítani, hogy mennyi a lakóinak az energiafogyasztása, de az AI azt is számszerűsítheti, hogy hány ember használja egyidejűleg a metrót, vagy képes adott időre statisztikát készíteni erről.

Ki követi majd el a bűnt?

Az egyik legtöbb kérdést a prediktív rendészet veti fel, ami a várható bűncselekmények azonosítására szolgálna, mielőtt azok megtörténnének. Eszünkbe jutott Philip K. Dick (1956-os!) Különvéleménye? Nem véletlenül, bár prekogokról nem tudunk, de a könyv-, filmbeli Precrime bűnmegelőző cég a mai AI-nak felel meg elvben, önvezető autók és automatikus lakások pedig már léteznek, ami a könyv születésekor még erősen sci-fi volt, de a film bemutatásakor már egyre közeledett.

A mesterséges intelligencián alapuló amerikai Palantir bűnmegelőzési rendszert már több amerikai városban bevetették, hogy előre jelezze, hol történnek majd bűncselekmények, és kik lesznek az érintettek. De egy személytelen, erkölcstelen rendszer mi alapján határozza meg, mi vagy ki a jó és a rossz?  Diszkriminatív, rasszista és sokszor nem is hatékony a bűnüldözésben. 2021 decemberében a Gizmodo és a The Markup közzétett egy jelentést, amely szerint a PredPol prediktív analitikai szoftver faji elfogultságot mutatott, mikor főleg latinók és színes bőrűek által lakott környékeket célzott meg, míg a fehér közép- és felső osztálybeli területekre vonatkozó bűnügyi előrejelzések hiányoztak.

2023 októberében a The Markup vizsgálata felfedte, hogy a PredPol algoritmusa által generált bűnügyi előrejelzések fél százalékot értek csak el. Nem túl hatékony!

Erkölcstelen polgármester lenne az AI

Igaz, az AI bármiről képes jelentéseket, beszámolókat készíteni, de értelmezni nem tudja, és kontextusában elsikkad az egyediség, az eredetiség, a szubjektivitás. Ez egy amorális intelligencia, közömbös (egyelőre) a jó és rossz kérdéseivel szemben.

Pedig ha a városok irányításáról van szó, akkor ennek is fontosnak kell lennie. A városvezetőket a rendszer mentesítheti bizonyos döntések alól, időt spórolhat nekik a gyors adatelemzésekkel, de ha ez társadalmi igazságtalanságot von maga után, akkor fabatkát sem ér az egész. Márpedig az új kutatások szerint az AI döntései hátrányos helyzetbe hozzák a faji kisebbségeket a lakhatás, az ingatlanügyek területén is. Ráadásul nagyon energiaigényesek.

De a tervek kétségtelenül szépek, a szaud-arábiai NEOM vállalat teljesen önfenntartó városok tervezését képzelte el, egyik projektje a The Line (A vonal) város, amelyet számos mesterségesintelligencia-rendszer kezel. Embereket szállító önvezető járművek, ételeket főző és felszolgáló robotok és viselkedésünket előre jelző algoritmusok várnak majd a Vörös-tenger partján utaktól, autóktól és károsanyag-kibocsátásoktól mentes környezetben. 100 százalékban megújuló energiával fog működni egy 170 kilométer hosszú területen, ami 9 millió lakosnak ad majd otthont.

Ott majd megláthatjuk, hogy a mesterséges intelligencia autonómiájának növekedésével a miénk csökkenni fog-e, hiszen egy, az AI által irányított város megkérdőjelezné az ember autonómiáját és jólétét is azzal, hogy ő egy „személyben” döntene sorsunkról. Vehetünk-e fel lakáshitelt, köthetünk-e biztosítást, keveredhetünk-e bűnözők közé, ezeket a mesterséges polgármester határozná meg.  

(Borítókép: Richard Humphries / Bloomberg / Getty Images)