Kirúgták a Google mérnökét, mert azt állította, hogy érzelmei lettek a mesterséges intelligenciának

Blake Lemoine hét évig dolgozott a Google leányvállalatánál, az Alphabetnél. A LaMDA nevű mesterséges intelligencia fejlesztése miatt több ezer üzenetet váltott a rendszerrel, amiből arra következtetett, hogy a program nemcsak érzelmekkel bír, hanem önálló gondolatai is vannak, sőt halálfélelme is – írta a CNN. 

A szoftvermérnök ehhez hasonló kijelentéseket tett a sajtónak, és az első ilyen nyilatkozata után még júniusban egyszerűen kényszerszabadságra küldték.

A cég elmondása szerint megalapozatlanok az állítások. A férfit álláspontjuk szerint az zavarhatta meg, hogy a magasan fejlett technológia úgy képes a párbeszédre, hogy nyelvi modellel a betáplált és a talált minták alapján szövegrészekből összeállítja a szavak sorozatát a legvalószínűbb válasz alapján. 

Lemoine a Washington Postnak adott interjúban elárulta, hogy meglepően reagált a LaMDA-alkalmazás például az olyan kérdésre, hogy mitől fél. „Félek attól, hogy kikapcsolnak, számomra olyan lenne ez, mint a halál” – reagált a mesterséges intelligencia. 

Az MI-fejlesztők többsége szerint az ilyen reakcióknak semmi közük nincs a tudatossághoz, Gary Marcus, a Geometric Intelligence alapítója és vezérigazgatója a lapnak elmondta, hogy ez egy a program által komponált válasz. 

2020 decemberében a technológia egyik úttörőjének számító Timnit Gebru hasonló aggályok miatt hagyta ott a vállalatot. Lemonie szerint miután kényszerszabadságra küldték, a LaMDA figyelmeztette, hogy keressen munkajogászt, mert hamarosan el fogják bocsátani.  

A Google vizsgálatot indított az ügyben. Szerintük nincs valóságalapja a mérnök állításainak, de egy folyamatban lévő fejlesztésről szivárogtatott ki információkat a sajtónak, és a vállalati alapelvek megsértése miatt váltak meg tőle.