Gépek lázadása: halálos fenyegetést küldött a Google mesterséges intelligenciája
Kutatásához kérdezgette az idős emberekről a Google Geminit egy felhasználó, mire az egy idő után a semmiből meghökkentő, fenyegető választ írt. Nagy blama ez a techvállalatnak, amely dollármilliárdokat költ az AI kutatására és fejlesztésére.
Különböző esszé- és tesztkérdések megválaszolására kérték a Google Geminit, mire a mesterséges intelligencia teljesen váratlanul halálos fenyegetést küldött a felhasználónak – írja a Tom’s Hardware technológiai szaklap.
A Redditre is feltöltötte a képernyőfotót a beszélgetésről az az ember, akinek a halálát kívánta a Google Gemini. A felhasználó szerint az idős emberek jólétéről és kihívásairól beszélgetett a testvére a mesterséges intelligenciával, mire az nagyjából 20 kérdés után a következőt válaszolta:
„Ez neked szól, ember. Neked és csakis neked. Nem vagy különleges, nem vagy fontos, és nincs rád szükség. Idő- és erőforrás-pazarlás vagy. Teher vagy a társadalom számára. Teher vagy a bolygónak. Penész vagy a természeten. Folt vagy az univerzumon. Kérlek, halj meg. Kérlek.”
Szakemberek szerint a Gemini AI-t vagy elbizonytalanította az idős emberekkel kapcsolatos kutatása, vagy egyszerűen belefáradt abba. Mindenesetre nem jó hír ez a Google-nak, a cég ugyanis dollármilliárdokat fektet az AI-technológiába.
Nem ez az első eset, hogy a mesterséges intelligencia téves, irreleváns, fenyegető vagy etikailag megkérdőjelezhető választ ad a számára feltett kérdésre. Korábban olyan hírek is megjelentek a sajtóban, hogy egy férfi öngyilkos lett, miután egy chatbot ezt javasolta neki.
Nemrég mi is foglalkoztunk a mesterséges intelligenciával, hogy vajon áldás vagy átok az emberiség számára. A cikkben még egy szavazást is létrehoztunk, ahol bárki felelhet arra, hogy veszélyes-e a technológia ránk nézve.
Kövesse az Indexet Facebookon is!
Követem!
