ENSZ-figyelmeztetés: súlyos gondot jelent a mesterséges intelligencia

Az emberi jogokat veszélyeztető technológiák, többek között az arcfelismerő rendszerek használatát érintő moratóriumra szólított fel az ENSZ emberi jogi főbiztosa, Michelle Bachelet. A főbiztos a hivatala által kiadott hivatalos jelentés bemutatóján hangoztatta, hogy a világ országainak be kell tiltaniuk azokat a rendszereket, amelyek nem felelnek meg az Emberi Jogok Egyetemes Nyilatkozatának.

Bachelet közleménye szerint a mesterséges intelligencia alapvetően jó dolog, de „negatív vagy akár katasztrofális hatása lehet, hogyha az emberi jogokra való tekintet nélkül alkalmazzák”.

A mesterséges intelligencia a fizikai és mentális, sőt érzelmi életünk minden sarkába elér. MI-rendszerek döntik el, hogy ki használhatja a közintézményeket, ki kap munkát, és persze azt, hogy milyen információt kaphat és oszthat meg online

– mondta.

A tisztviselő szerint a betiltandó alkalmazások közé tartoznak az embereknek viselkedésük alapján társadalmi pontszámokat adó rendszerek, valamint az olyan eszközök, amelyek különböző kategóriákba csoportosítják az embereket. Nem követelte ugyanakkor az arcfelismerő rendszerek teljes betiltását, csupán felfüggesztené ezek használatát, amíg az egyes állami szervek szavatolni tudják ezek pontosságát és a személyes adatok biztonságát.

Szemmel verés

Az ENSZ jelentésének genfi bemutatóján egy országot sem neveztek meg, a kérdés leginkább Kínát érinti, ahol tömeges arcfelismerő rendszereket és társadalmi pontozást alkalmaznak, és különösen hátrányos megkülönböztetés éri az ország nyugati részén élő ujgurokat.

Peggy Hicks, a főbiztosság tematikus igazgatója az eseményen elmondta, hogy a diszkrimináció és az átláthatóság hiánya aggasztó. Hicks Kína mellett az Egyesült Államokban és az Ausztráliában folyó bírósági ügyeket is megemlítette.

Ugyancsak aggályosnak találták az olyan rendszereket, amelyek az emberek arckifejezése alapján próbálnak érzelmi és mentális állapotukra következtetni.

Az érzelemfelismerő rendszerek rendfenntartó szervek általi felhasználása, egyének igazoltatására vagy kihallgatás közbeni állításaik valóságtartalmának ellenőrzésére, a magánélet, a személyes szabadság és az igazságos eljáráshoz való jog megsértésével fenyegeti az emberi jogokat

– áll a jelentésben.

Az ENSZ által megfogalmazottak a nyugati politikai vezetők utóbbi időkben hangoztatott aggodalmaiban köszönnek vissza. 

A Joe Biden vezette amerikai kormányzat szintén foglalkozott a problémával, amelyről helyi szokás szerint iparági szervezetek állásfoglalását várják. Amit tudni lehet, technológiai oldalról a Microsoft támogatja a korlátozást, és nemcsak elvben, de anyagilag is beálltak az ENSZ Emberi Jogi Tanácsa mögé. 

Az Európai Unió várhatóan már idén szigorúbban fogja szabályozni a mesterséges intelligenciát, és bizonyos alkalmazásokat – például az arcfelismerés valós idejű felhasználását – be is tilt. Margrethe Vestager, az Európai Bizottság ügyvezető alelnöke szerint egy idén nyáron szervezett beszélgetésben leszögezte, hogy az MI bizonyos alkalmazásai, mint a társadalmi pontozás, nem alkalmazhatók demokratikus társadalmakban.

A megfigyeléssel is probléma van

Michelle Bachelet a napokban egy másik technikai-emberi jogi kérdésben is megszólalt, amikor az Európai Parlament emberi jogi bizottsága előtt a Pegasus-botrány kapcsán az emberi jogokkal összeegyeztethetetlennek nevezte a mobiltelefonos megfigyelést, és az ilyen szolgáltatások piaci forgalmazásának betiltására szólított fel.

Ez csak egy újabb példa arra, hogy az állítólagos biztonsági kockázatok elleni eszközöket hogyan vetik be az eltérő véleményű emberek ellen

– fogalmazott, és a megfigyelés területének haladéktalan, részletes és egyértelmű szabályozását javasolta.

(The Daily Dot, The Hill, TechXplore, The Wire)