Judit
2 °C
7 °C

A Google-t már nem érdekli, ha gonosz

2018.06.02. 10:22 Módosítva: 2018-06-02 13:35:16
A Google munkatársait felháborítja, hogy a cég a Pentagonnal együtt dolgozik egy Project Maven nevű megrendelésen. A Védelmi Minisztérium megrendelésére készülő szoftvert állítólag analitikai célokra használnák, de a szakértők szerint ez javíthatja a dróntámadások pontosságát is. Eközben a Google alapdokumentumából eltűnt a Don't be evil (Ne légy gonosz) szlogen, ami egykor a cég hitvallása volt.

A Google egyik vezető kutatója emailben figyelmeztetett arra, hogy a vállalat szerepvállalása egy katonai mesterséges intelligencia fejlesztésében veszélyes helyzetbe sodorhatja a Google-t. A levéllel a New York Times cikke foglalkozott részletesen; eszerint nemcsak a cégen kívül, hanem a munkavállalók között is felháborodást keltett, hogy részt vesznek a Védelmi Minisztérium fejlesztési programjában, a Project Mavenben.

A Maven-projekt célja alapvetően az, hogy mesterséges intelligenciát használjanak videófelvételek és fotók gyorsabb interpretációjához. A Védelmi Minisztérium szerint a gépi tanulás kritikus fontosságú, hogy fenntarthassák a fölényüket a folyamatosan fejlődő versenytársakkal szemben, de a kritikusok szerint a Google szoftvere a dróntámadásokat is pontosabbá tette volna.

Tudták, hogy kockázatos terület

Fei-Fei Li, a Google vezető mesterségesintelligencia-kutatója szeptemberi levelében figyelmeztetett arra, hogy a Google jól gondolja meg, miként vállal szerepet a Maven-projektben. Li ezt írta a védelmi és hírszerzési részleg vezetőjének, Scott Frohmannak:

Mindenáron el kell kerülni a mesterséges intelligencia felhasználásának említését. Az AI használata a fegyverkezésben az egyik, ha nem a legérzékenyebb téma. Ez vörös posztó az újságíróknak, akik megtalálják a módját, hogy ártsanak vele a Google-nek.

A vezetőség tehát tisztában volt a kockázatokkal, de a saját munkatársaik haragja talán őket is meglepte. Áprilisban közös petíciót írtak alá, amiben az állt, hogy a Google két alapítója által megfogalmazott küldetésnyilatkozat szöges ellentétben áll azzal, hogy a vállalat katonai fejlesztéseket végezzen. Ennek a megszegését kifogásolják most; nem akarják, hogy az általuk fejlesztett mesterséges intelligencia a hadsereg kezébe kerüljön.

Május 18-án érkezett a hír, hogy a Google szándéknyilatkozatából eltűnt a Don't be evil szlogen.

Ekkora balhé még sose volt

A Times-hoz eljuttatott nyilatkozatban Li azt állította: hisz benne, hogy az emberközpontú mesterséges intelligencia hasznos és pozitív is lehet az emberekre nézve, és mélységesen ellenkezik az elveivel, hogy katonai célú MI-t fejlesztő projektekben vegyen részt.

Mostanáig körülbelül négyezer Google-munkatárs írta alá azt a tiltakozó ívet, amit Sundar Pichai vezérigazgatónak címeztek. Nagyjából tucatnyian ott is hagyták a Google-t. Több mint kétszáz akadémikus és kutató kérte a Google-t, hogy hátráljon ki a Maven-projektből.

A Times cikke szerint a Maven megosztotta a Google munkatársait. Több belső meetinget tartottak, ahol a dolgozók meghallgathatták a felső vezetés magyarázatait. A belső kommunikációs csatornákat eltömítették a Maven-projekttel foglalkozó levelek. A Google New York-i irodájában Do The Right Thing (Tedd azt, ami helyes) feliratú matricák jelentek meg.

Hiába támogatják a szabad önkifejezést, még a régóta itt dolgozók is azt mondják, hogy a Maven-projekt jobban felkavarta a Google-t, mint bármi, amit eddig láttak.

- írta a New York Times.

Egy marék dollárért

Pichai csütörtökre egy belső meetinget tervezett a Google-nél, hogy elmagyarázza, milyen elveket vall a Google a mesterséges intelligencia katonai célú alkalmazásával kapcsolatban. A Google leszögezte, hogy nem fognak katonai célú MI-t fejleszteni, de a munkatársak eddig is azt kifogásolták, hogy az általuk fejlesztett szoftver katonai célra is használható.

Eközben Diane Greene, a Google Cloud vezérigazgatója igyekezett minden munkatársat megnyugtatni, hogy a Project Maven nem használható halálos fegyverként, és az egész megállapodás csak 9 millió dollárról szól.

Frissítés: A Google kihátrál

A BBC úgy tudja, a cég megszakítja az együttműködést a Pentagonnal. Egyelőre hivatalos közlemény nincs a döntésről, de a lap belső forrásokra hivatkozva azt állítja, hogy Diane Greene, a Google Cloud vezérigazgatója egy értekezleten leszögezte: nem újítják meg az együttműködésről szóló szerződést a Védelmi Minisztériummal. A jelenlegi szerződés jövő márciusban jár le.

A Gizmodo – szintén a Google-ön belüli informátorokra hivatkozva – szintén azt állítja, hogy a botrányos projektet nem tervezik folytatni, de a hadiipari fejlesztésekben való részvételtől továbbra sem zárkózik el a cég vezetése. Így bármikor születhet újabb együttműködés a Pentagon és a Google között.

(Business Insider | New York Times)

Köszönjük, hogy minket olvasol minden nap!

Ha szeretnél még sokáig sok ilyen, vagy még jobb cikket olvasni az Indexen, ha szeretnéd, ha még lenne független, nagy elérésű sajtó Magyarországon, amit vidéken és a határon túl is olvasnak, akkor támogasd az Indexet!

Tudj meg többet az Index támogatói kampányáról!

Milyen rendszerességgel szeretnél támogatni minket?

Mekkora összeget tudsz erre szánni?

Mekkora összeget tudsz erre szánni?