Emil, Csanád
9 °C
22 °C
Index - In English In English Eng

Hatalmas vihart kavart egy kis arcfelismerő startup. És most meghekkelték

000 1C50SC
2020.02.27. 18:43
Az arcfelismerés nem új technológia, bár az utóbbi néhány évben egyre pontosabbá és egyre elterjedtebbé váltak az ilyen rendszerek, ami egyre komolyabb adatvédelmi aggályokat is szült. A témát egy kis amerikai startup, illetve egy róla szóló cikk robbantotta be az elmúlt hetekben. A Clearview AI közösségi oldalakról származó és máshol megosztott képek begyűjtésével hozott létre egy minden eddiginél kiterjedtebb adatbázisra épülő arcfelismerő programot, amelyet Amerika-szerte több tucat rendőrség használ. A cég szerint ők mindent legálisan csinálnak, és a megoldásuk a közbiztonság javára válik - de azóta a Facebooktól a Youtube-ig több cég is felszólította őket, hogy hagyjanak fel a felhasználóik képeinek begyűjtésével. Az se egyértelmű, hogy mennyire hatékony a programjuk, ráadásul biztonsági aggályok is felmerültek a céggel kapcsolatban. Ez utóbbiak részben be is igazolódtak, amikor kiderült: a Clearview-t meghekkelték, és a teljes ügyféllistájukat ellopták.

Az elmúlt hetekben egy eddig ismeretlen amerikai startup nevével van tele az amerikai sajtó. A lavinát a New York Times cikke indította be, amely elsőként hívta fel a szélesebb közvélemény figyelmét a Clearview AI tevékenységére, újabb lendületet adva ezzel az arcfelismerő technológiák körüli társadalmi vitának.

A céget 2016-ban, akkor még Smartcheckr néven alapította egy Hoan Ton-That nevű 31 éves ausztrál férfi, akinek korábban olyan próbálkozásai voltak, mint egy adathalász átverésnek kikiáltott videómegosztó vagy a Trump jellegzetes haját fotókhoz adó mobilapp. A másik alapító Richard Schwartz, aki a Donald Trump amerikai elnök ügyvédjeként ismert Rudy Giuliani tanácsadója volt Giuliani New York-i polgármestersége idején.

A Clearview 2017-ben és 2019-ben is kapott befektetést, de még így is kicsi cégnek számít. A befektetői között megtalálható Peter Thiel is, aki a Facebook igazgatósági tagja, a Palantir nevű titokzatos adatbányász cég alapítója, és a Gawker médiabirodalom szétverésének finanszírozója, egyébként hangos Trump-szimpatizáns. De a Clearview nem az alapítók vagy a befektetők személye miatt érdekes elsősorban, hanem mert

egy nyugati világban minden eddig ismertnél hatékonyabb arcfelismerő rendszert rakott össze.

Soha nem látott méretű adatbázis

A rendszer lényege, hogy ha elé rakunk egy képet, fogja az azon látható személyt, és csokorba gyűjti az interneten (a begyűjtés pillanatában) megtalálható összes, róla készült képet, amelyekhez kontextus gyanánt mellékeli a linket is, ahonnan származnak.

Maga a technológia ugyanúgy működik, mint bármilyen másik arcfelismerő algoritmus: az arcvonások elemzésével az adatbázisában szereplő minden arcot matematikailag értelmezhető vektorokká alakít, és a hasonló értékek alapján csoportokba rendezi őket. Amikor a rendszer egy azonosítandó arcot lát, azt is átalakítja, és összeveti a már tárolt értékekkel, majd kidobja a leginkább hasonló találatokat.

A Clearview hatékonyságát nem is maga a technológia adja, hanem a mögé rakott irdatlan méretű adatbázis: több mint hárommilliárd képet gereblyéztek össze hozzá több millió weboldalról, köztük olyanokról, mint a Facebook, az Instagram, a Youtube vagy a Twitter. Ez a mély merítés olyan széleskörű azonosítást tesz lehetővé, amelyhez foghatót nemcsak egyetlen másik techcég, de az amerikai kormány se rakott még össze soha, legalábbis mai ismereteink szerint.

A rendszer 2017-re készült el, ekkor kezdtek el vele házalni a republikánus körökben jól mozgó társalapító, Richard Schwartz kapcsolati hálóján keresztül. Különféle területeken próbálkoztak, de egy idő után képbe kerültek a bűnüldöző szervek. A cég több rendőrparancsnokságot is megkeresett, és ingyenes próbaidőszakkal próbálta meggyőzni őket. Illetve azzal, hogy a saját számításuk szerint az FBI adatbázisa alapján 411 millió fotó kereshető, az ő szolgáltatásukkal viszont 3 milliárd.

A cég szerint ma már több mint 600 bűnüldöző szerv használja a szolgáltatásukat helyi amerikai rendőrségektől az FBI-on és a belbiztonsági minisztériumon át a kanadai hatóságokig, illetve biztonsági cégek és bankok is. A rendszert használó hatóságok képviselői a New York Timesnak azt mondták, arról csak korlátozott ismereteik vannak, hogy hogyan működik és ki áll mögötte, viszont minden korábban kipróbált módszernél hatékonyabb a bűntények elkövetőinek azonosításában, az egyszerű bolti lopástól a bankkártyacsaláson át a gyilkosságig és a gyerekmolesztálásig.

A vásárlók elégedettek

Annak ellenére, hogy széles körben használják vagy tesztelik a szolgáltatását, a Clearview-ról először 2019 legvégén találni bármiféle nyilvános említést, amikor a floridai Clermontban kaptak el a segítségével egy tolvajt: a biztonsági kamera képe alapján az app megtalálta a Facebook-oldalát.

Az Indiana állami rendőrség tavaly februárban kezdte el tesztjelleggel használni a szolgáltatást, és 20 percen belül meg is oldottak vele egy ügyet. Egy járókelő a telefonjával videóra vett egy lövöldözésbe torkolló verekedést, ebből ki tudtak nyerni egy képet a fegyveres támadó arcáról. Erre engedték rá a Clearview appját, amely rögtön fel is dobott egy közösségi médiában közzétett videót ugyanarról az emberről, a leírásban a nevével. Mivel az illetőnek nem volt se korábbi rendőrségi ügye, se jogosítványa, kormányzati adatbázisokban nem szerepelt az arcképe, így más arcfelismerő módszerekkel nem tudták volna azonosítani. Az indianai rendőrség lett a Clearview első előfizetője.

A rendőri beszámolók szerint a hatalmas adatbázis mellett az is nagy előnye a Clearview megoldásának, hogy a bevett rendőrségi arcfelismerő eszközökkel ellentétben a keresett személyeknek nem kell közvetlenül belenézni a kamerába, és az se baj, ha mondjuk sapka vagy szemüveg van rajtuk, az app rosszabb minőségű képek alapján is nagy pontossággal dolgozik.

Az appal a legkülönfélébb ügyek érintettjeit sikerült azonosítani bolti tolvajoktól az áldozatokat megszemélyesítő banki csalókon át ismeretlen holttestekig. Egy Szárnyas fejvadász-jelenetet idéző esetben úgy akadtak rá egy gyerekmolesztálási ügy vádlottjára, hogy az illető feltűnt egy másik ismeretlen edzőtermi fotója hátterében, a tükörben.

A floridai Gainsville egyik rendőre a tesztje során régebbi, megoldatlan ügyekre eresztette rá a szoftvert, és több mint harminc gyanúsítottat sikerült azonosítania vele. Egy kanadai tisztviselő szerint a Clearview technológiája az elmúlt évtized legnagyobb áttörése a gyerekek elleni szexuális bűncselekmények felderítésében.

Több probléma is van vele

Bár sokan tartanak tőle, az arcfelismerés bizonyos szektorokban valójában már ma is igen elterjedt – elég csak az arccal feloldható mobilunkra gondolni. Az Egyesült Államokban a rendőrség is már két évtizede használ különféle arcfelismerő eszközöket.

A Clearview szolgáltatása elsősorban nem is azért verte ki sokaknál a biztosítékot, mert arcfelismerő technológiát alkalmaz, hanem mert

  1. úgy használja hatóságok egész sora, hogy nem esett át független ellenőrzésen, például a technológiai sztenderdekre ajánlásokat megfogalmazó kormányzati ügynökség, a NIST vizsgálatán, amely rendszeresen teszteli és értékeli a piacon elérhető arcfelismerő technológiákat;
  2. a cég a képadatbázisát engedély nélkül állította össze, mert bár a Facebookról és más oldalakról begyűjtött képek valóban nyilvánosan elérhetők, ezek tömeges leszüretelését és felhasználását a cégek szabályzata kifejezetten tiltja. A Twitter például ki is emeli az arcfelismerést mint tiltott felhasználási területet;
  3. a hatóságok eddig jellemzően kormányzati forrásból származó képeket használhattak csak ilyen célra, mint rendőrségi fotók vagy igazolványképek, nem az emberek magánfotóit;
  4. a feltöltött fotókat és adatokat a cég a saját szerverein tárolja, amelyek védettségi szintje szintén nem ismert.

Nézzük meg ezeket a problémákat közelebbről is.

Tényleg olyan pontos?

A Clearview a saját adataira hivatkozva azt állítja, hogy a technológiája 100 százalékos pontosságra képes. A céget érő egyik kritika azonban éppen az, hogy nincs mód ennek a hatékonyságnak az igazolására. Annak ellenére, hogy állami szervek sora használja az appot, az nem esett át független teszteken, így maradnak a statisztikailag kevésbé releváns egyéni beszámolók. A fenti adatról például azt állítják, hogy az ACLU nevű amerikai jogvédő szervezet tesztjére alapozzák. Az ACLU viszont rámutatott, hogy az ő tesztjüknek és a cég vizsgálatának semmi közük egymáshoz.

Az arcfelismerés hatékonyságának mérése amúgy sem egyszerű feladat. Clare Garvie, a Georgetown Egyetem jogi karának rendőrségi arcfelismeréssel foglalkozó kutatója szerint erre nincs egyetlen, minden esetben alkalmazható módszer, a pontosságot itt egy sor különféle tényező kombinációja határozza meg.

Ha egy cég egyetlen pontossági mérőszámot ad meg, akkor szükségszerűen nem kapunk teljes képet a rendszerük pontosságáról. Attól függően, hogy a rendszert milyen feladatra tervezték, a megadott szám adott esetben keveset vagy semennyit nem árul el a rendszer és a működése valódi pontosságáról

mondta a Buzzfeed Newsnak.

A sikersztorik egy részének hitelessége is megkérdőjelezhető. A Buzzfeed News több olyan bűnesetet is előásott, amelyekről a Clearview a potenciális klienseinek küldött marketinganyagaiban azt állította, hogy segített a felderítésükben, de az illetékes hatóságok szerint ez nem igaz, egyáltalán nem vették igénybe az ügyek megoldásához a cég szolgáltatásait. Egy esetben a New York-i rendőrség azt közölte a lappal, hogy használtak ugyan arcfelismerést, de a saját eszközüket, amellyel törvényesen beszerzett letartóztatási fotók között találtak rá a gyanúsítottra.

A Buzzfeed News próbált utánamenni annak is, hogy hány rendőrséggel dolgozik együtt valójában a cég, és arra jutottak, hogy erősen felülreprezentálják a saját jelentőségüket. Több esetben kiderült, hogy olyan parancsnokságokat is a partnereik közé számoltak, amelyeknek egyszerűen küldtek egy tippet az információs vonalukon. Az ilyen esetek között több fals pozitív találat is feltűnik, ami jól illusztrálja az arcfelismerés fontos bűnüldözési eszközzé válásával kapcsolatos félelmeket. A Clearview a rendőrségeknek küldött promóciós emailjeiben például egy verekedés ismeretlen gyanúsítottjának képéhez küldött egy lehetséges találatot, de az általuk talált férfi nem egyezett meg azzal, aki végül feladta magát a rendőrségen.

Jogtalanul gyűjti a fotóinkat?

A Clearview-t a legtöbb kritika amiatt érte, hogy egyszerű felhasználók gyanútlanul megosztott fotóit gyűjti be és kreál belőlük rendőrségi adatbázist. A cégvezető Hoan Ton-That szerint csak nyilvánosan elérhető fotókat használnak fel, ami alkotmányos joguk. Arról, hogy a képek forrásául szolgáló cégek tiltják a fotók tömeges begyűjtését és felhasználását, azt mondta, ezt sokan mások is csinálják, és ezt a Facebook is tudja.

Sok adatvédő külön kifogásolja azt is, hogy a begyűjtött képeket azután is megtartja a cég, hogy az eredeti helyükről letörli a tulajdonosuk. A NYT azt írta, a cég szerint már dolgoznak olyan eszközökön, amelyekkel kérhető a fotók törlése, azóta a honlapjukon valóban elérhetők ilyen űrlapok: kaliforniai, európai uniós, brit és svájci állampolgárok (azaz a szigorúbb adatvédelmi szabályozással rendelkező államok lakói) kérhetik, hogy küldjék el a róluk begyűjtött adatokat, de azok törlését, illetve az adataik további feldolgozását is. Ezt kipróbáltam, egy fotót kell hozzá feltöltenünk magunkról, illetve az adatkérés esetén az igazolványunkról is egy képet. Három héttel később még nem kaptam választ.

A Clearview-ról szóló első cikkek óta a Facebook, a Youtube, a Twitter, a Linkedin és a Venmo is felszólította a céget, hogy hagyjon fel a gyakorlatával. Azt persze szinte lehetetlen ellenőrizni, hogy ezeknek a felszólításoknak eleget tesznek-e. Miután egy képet valaki letöltött valahonnan, bármennyi másolat készülhet róla, és semmi nem garantálja, hogy ha az egyik szerverről törlik, egy másikon nem marad ott. Az sem világos, mi garantálja, hogy harmadik fél nem férhet hozzá az összegyűjtött adatokhoz. Minderre a 2018-as Cambridge Analytica-botrány látványos példaként szolgált.

Ártatlanokat keverhet gyanúba

Ha még azt is feltételezzük, hogy maga a képek begyűjtése nem problémás, további aggodalomra adhat okot, hogyan használják fel ezeket, hiszen egy bűntény kapcsán különösen veszélyesek a fals pozitív találatok, mert ezek alapján tévesen keverhető gyanúba az a személy, akinek a fotóját – hibásan – egyezőként dobja fel a rendszer.

A Clearview szolgáltatását ráadásul nemcsak elkövetők, hanem a szexuális visszaélések áldozatául esett gyerekek azonosítására is használják. Indiana államban például egy gyerekmolesztáló 21 áldozatának a képén futtatták le, és 14 gyereket sikerült azonosítani vele. Mivel ilyen érzékeny területen is használják, még inkább előtérbe kerülnek az eszköz pontosságával és a cég adatkezelésével kapcsolatos aggályok.

A New York Times megvizsgálta a Clearview appjának kódját, és találtak benne olyan részletet, amellyel a kiterjesztett valóságot megjelenítő AR-szemüvegen is futtatható lenne, így a használói bárkit a tudta nélkül azonosíthatnának az utcán az arca szkennelésével. Például aktivistákat egy tüntetésen vagy egy csinos ismeretlent a metrón. A cég szerint valóban készült ilyen funkció, de ezt nem tervezik piacra dobni.

Meg tudják védeni a rengeteg adatot?

Adatvédelmi szempontból aggályos az is, hogy a Clearview a saját szerverére továbbítja és ott tárolja a kliensei, azaz többek között a bűnüldöző állami szervek által feltöltött képeket is. A NYT-nak több tisztviselő is azt mondta, nem volt ezzel tisztában.

Ennek egyik következménye, hogy a cég adott esetben akár manipulálni is tudja az eredményeket. Ezt a NYT újságírója is megtapasztalhatta: a cikke írása közben megkért több rendőrt, hogy futtassák le a programot a fotóján. Nem sokkal később telefonáltak nekik a Clearview-tól, és arról érdeklődtek, hogy a rendőrök a beszéltek-e róluk a médiával. Ezután az újságíró arcára a program egy ideig nem adott ki találatot, noha eleinte felismerte őt. (A cég vezetője később azt állította, hogy a fotóján futtatott keresésekre csak azért figyeltek fel, mert a rendszer ezt gyanús viselkedésként észlelte, az pedig, hogy egy idő után eltűntek a találatok, bizonyára szoftverhiba volt.)

Ami még közvetlenebb veszély, hogy nem tudni, milyen biztonsági intézkedésekkel védi ezeket az érzékeny adatokat a Clearview. Ez korábban még csak elméleti kritika volt, de a céggel kapcsolatos legfrissebb hír, hogy

ismeretlen támadók meghekkelték a Clearview-t, és ellopták a teljes ügyféllistáját.

A cég azt állítja, keresési előzményekhez és más kritikus adatokhoz nem fértek hozzá a hekkerek, és a támadást lehetővé tevő hibát javították.

Még a nagy techcégek is óvatosak

A Clearview esete azért válthatott ki ekkora visszhangot, mert a cég átlépett egy határt, amelyet eddig senki nem mert vagy akart átlépni: az eddigi elszigetelt rendszereken túllépve olyan arcfelismerő platformot hozott létre, amellyel elképzelhető közelségbe került az univerzális arcfelismerés világa. Ahol bárki bármilyen kép alapján azonosítható, mintha csak Google-ben keresne rá az ember.

Jól mutatja, mennyire ingoványos talaj manapság az arcfelismerés, hogy még a magánszféra határainak folyamatos feszegetésével vádolt nagy techcégek is ódzkodnak a bevezetésétől. A Facebookról például tavaly novemberben derült ki, hogy belső használatra készítettek egy arcfelismerő appot, de végül beszüntették a fejlesztését. Decemberben a Microsoft főtanácsosa az arcfelismerő technológiák sürgős szabályozására szólított fel.

Yann LeCun, a Facebook vezető mesterségesintelligencia-kutatója egy tavaly májusi párizsi rendezvényen az Indexnek is arról beszélt, hogy az arcfelismerést a Facebooknál amúgy se nagyon kutatják már, mert szerinte ez technológiailag egy megoldott probléma. Igazán nagy léptékben nem tudják alkalmazni, de ez nem is céljuk, és a több városban bevezetett korlátozását is jó ötletnek tartja.

A Google akkori vezérigazgatója pedig már 2011-ben arról beszélt, hogy az arcfelismerés az egyetlen olyan technológia, amelyet lefejlesztettek, majd mégis úgy döntöttek, hogy nem adják ki.

Persze az is jellemző a szektorra, hogy 2018-ra ez az álláspont már jócskán finomodott, a Google akkor már arról beszélt, hogy addig nem értékesítik a megoldásukat, amíg ki nem dolgozzák az irányelveket, amelyekkel majd elkerülhetők lesznek a visszaélések. Ezt az önmérsékletet is más megvilágításba helyezi, hogy milyen nagy külső és belső ellenállást váltottak ki az olyan ellentmondásos projektjeik, mint az amerikai védelmi minisztérium drónprogramjához fejlesztett mesterséges intelligencia. (A Project Mavenből végül ki is hátráltak.)

A Facebook ellen tavaly ősszel indult egy 35 milliárd dolláros per Illinois államban, amiért a vád szerint a cég az állam lakóinak hozzájárulása nélkül alkalmazott arcfelismerést a fotóikon.

Nem mindenkinek vannak azért ebből a társaságból sem aggályaik, az Amazon például bárki által elérhető és a saját szolgáltatásába építhető arcfelismerő megoldást is kínál Rekognition néven, és éppen ez az egyik legtöbbet kritizált ilyen technológia a piacon.

Óriási viták várhatók

A NYT-cikk megjelenése utáni napokban a Clearview oldalára két közlemény is felkerült. Az egyikben azt hangsúlyozzák, hogy bár nyereségesebb volna bárki által használható appot piacra dobniuk, ők ezt nem fogják megtenni, csak a bűnüldözést akarják segíteni. A másikban kiemelik, hogy szigorúan betartatott felhasználási feltételekkel biztosítják, hogy egyik ügyfelük se élhessen vissza a szolgáltatásukkal.

Ton-That egy interjúban azt is állította, nem adnák el a terméküket Iránnak, Oroszországnak vagy Kínának. A Buzzfeed News birtokába került céges marketinganyagokból azonban látszik, hogy terveznek külföldi terjeszkedést: a tervekben autoriter és emberi jogokat sértő országok neve is feltűnt, illetve kilenc uniós ország, ahol a GDPR miatt még inkább meggyűlne a bajuk az adatvédelmet és a felhasználói adatok gyűjtését szigorúbban vevő európai hatóságokkal.

A céggel szemben mindenesetre jogi téren is mozgolódás indult: Illinois és Virginia államban pedig több per is indult ellenük; New Jersey állam főügyésze megtiltotta a Clearview appjának használatát, amíg lefolytat róla egy vizsgálatot; illetve republikánus és demokrata politikusok is a cég felé fordították a figyelmüket.

Bár az arcfelismeréssel kapcsolatos vitáknak a legutóbbi nagy hullámát a Clearview gerjesztette, maga a technológia már jó ideje terítéken van világszerte nemcsak a jogvédők, de a jogalkotók előtt is. Január közepén mi is megírtuk, hogy az Európai Unió fontolóra vette az arcfelismerő technológiák átmeneti, 3-5 évre szóló betiltását az olyan nyilvános tereken, mint a vasútállomások, sportlétesítmények és bevásárlóközpontok. Január végén aztán kiderült, hogy az EU gyorsan el is vetette a tiltás ötletét, de a vita irányait és tétjét ez az epizód is jól illusztrálja.

Az arcfelismerő technológiákkal kapcsolatos aggályokkal és kritikákkal, illetve az egyre több helyen bevezetett tiltásokkal hamarosan külön cikkben foglalkozunk.