A Google-t már nem érdekli, ha gonosz

A Google egyik vezető kutatója emailben figyelmeztetett arra, hogy a vállalat szerepvállalása egy katonai mesterséges intelligencia fejlesztésében veszélyes helyzetbe sodorhatja a Google-t. A levéllel a New York Times cikke foglalkozott részletesen; eszerint nemcsak a cégen kívül, hanem a munkavállalók között is felháborodást keltett, hogy részt vesznek a Védelmi Minisztérium fejlesztési programjában, a Project Mavenben.

A Maven-projekt célja alapvetően az, hogy mesterséges intelligenciát használjanak videófelvételek és fotók gyorsabb interpretációjához. A Védelmi Minisztérium szerint a gépi tanulás kritikus fontosságú, hogy fenntarthassák a fölényüket a folyamatosan fejlődő versenytársakkal szemben, de a kritikusok szerint a Google szoftvere a dróntámadásokat is pontosabbá tette volna.

Tudták, hogy kockázatos terület

Fei-Fei Li, a Google vezető mesterségesintelligencia-kutatója szeptemberi levelében figyelmeztetett arra, hogy a Google jól gondolja meg, miként vállal szerepet a Maven-projektben. Li ezt írta a védelmi és hírszerzési részleg vezetőjének, Scott Frohmannak:

Mindenáron el kell kerülni a mesterséges intelligencia felhasználásának említését. Az AI használata a fegyverkezésben az egyik, ha nem a legérzékenyebb téma. Ez vörös posztó az újságíróknak, akik megtalálják a módját, hogy ártsanak vele a Google-nek.

A vezetőség tehát tisztában volt a kockázatokkal, de a saját munkatársaik haragja talán őket is meglepte. Áprilisban közös petíciót írtak alá, amiben az állt, hogy a Google két alapítója által megfogalmazott küldetésnyilatkozat szöges ellentétben áll azzal, hogy a vállalat katonai fejlesztéseket végezzen. Ennek a megszegését kifogásolják most; nem akarják, hogy az általuk fejlesztett mesterséges intelligencia a hadsereg kezébe kerüljön.

Május 18-án érkezett a hír, hogy a Google szándéknyilatkozatából eltűnt a Don't be evil szlogen.

Ekkora balhé még sose volt

A Times-hoz eljuttatott nyilatkozatban Li azt állította: hisz benne, hogy az emberközpontú mesterséges intelligencia hasznos és pozitív is lehet az emberekre nézve, és mélységesen ellenkezik az elveivel, hogy katonai célú MI-t fejlesztő projektekben vegyen részt.

Mostanáig körülbelül négyezer Google-munkatárs írta alá azt a tiltakozó ívet, amit Sundar Pichai vezérigazgatónak címeztek. Nagyjából tucatnyian ott is hagyták a Google-t. Több mint kétszáz akadémikus és kutató kérte a Google-t, hogy hátráljon ki a Maven-projektből.

A Times cikke szerint a Maven megosztotta a Google munkatársait. Több belső meetinget tartottak, ahol a dolgozók meghallgathatták a felső vezetés magyarázatait. A belső kommunikációs csatornákat eltömítették a Maven-projekttel foglalkozó levelek. A Google New York-i irodájában Do The Right Thing (Tedd azt, ami helyes) feliratú matricák jelentek meg.

Hiába támogatják a szabad önkifejezést, még a régóta itt dolgozók is azt mondják, hogy a Maven-projekt jobban felkavarta a Google-t, mint bármi, amit eddig láttak.

- írta a New York Times.

Egy marék dollárért

Pichai csütörtökre egy belső meetinget tervezett a Google-nél, hogy elmagyarázza, milyen elveket vall a Google a mesterséges intelligencia katonai célú alkalmazásával kapcsolatban. A Google leszögezte, hogy nem fognak katonai célú MI-t fejleszteni, de a munkatársak eddig is azt kifogásolták, hogy az általuk fejlesztett szoftver katonai célra is használható.

Eközben Diane Greene, a Google Cloud vezérigazgatója igyekezett minden munkatársat megnyugtatni, hogy a Project Maven nem használható halálos fegyverként, és az egész megállapodás csak 9 millió dollárról szól.

Frissítés: A Google kihátrál

A BBC úgy tudja, a cég megszakítja az együttműködést a Pentagonnal. Egyelőre hivatalos közlemény nincs a döntésről, de a lap belső forrásokra hivatkozva azt állítja, hogy Diane Greene, a Google Cloud vezérigazgatója egy értekezleten leszögezte: nem újítják meg az együttműködésről szóló szerződést a Védelmi Minisztériummal. A jelenlegi szerződés jövő márciusban jár le.

A Gizmodo – szintén a Google-ön belüli informátorokra hivatkozva – szintén azt állítja, hogy a botrányos projektet nem tervezik folytatni, de a hadiipari fejlesztésekben való részvételtől továbbra sem zárkózik el a cég vezetése. Így bármikor születhet újabb együttműködés a Pentagon és a Google között.

(Business Insider | New York Times)