Mit csináljunk a hazudós robotokkal?
További Tudomány cikkek
Mi a helyzet akkor, ha hazudik a robot? Nem is kell, hogy direkt rosszindulat vezérelje (vezérelheti-e egyáltalán?), egyszerűen csak nem tudja a korrekt választ például a gyerekek kérdéseire: Robot bácsi, létezik a Mikulás? Hol lakik a Jézuska? Tényleg vannak óriások Írországban? Mit válaszolhat ezekre, hogy ne keveredjen hazugságba? Mivel az emberekbe is kódolva van a hazugság (ahogy Ian McGuire kortárs angol író mondta: „A disznó röfög, a kacsa hápog, az ember hazudik: így van ez.”), teremtményei, a mesterséges intelligencia vezérelte lények is hazudni fognak, kérdés, elfogadja-e ezt az alkotó.
Egy korábbi tanulmányban azt vizsgálták az MI-kutatók, az emberek szerint milyen robothazugságok lehetnek, és három kategóriát állítottak fel:
- Másnak adják ki magukat, mint amik.
- Nem mondják el az igazat.
- Azt hazudják, képesek valamire, amire nem (vagy fordítva, azt, hogy nem képesek valamire, noha igen).
Kérdés, ha a robot direkt viselkedik megtévesztően, ez hogy hat az emberrel való kapcsolatra, mi történik, ha bocsánatot kér érte, és a bocsánatkérés módja, stílusa befolyásolja-e a robotba vetett (elveszett) bizalmat.
Sajnálom, ez biztos valami tévedés lesz
Amikor az emberek megtudják, hogy a robotok hazudtak nekik, még ha a hazugság az emberekre nézve előnyös is, általános bizalomvesztés történik az MI-rendszerekkel szemben. Helyreállítható-e? Attól függ, hogyan kér bocsánatot a robot, mert az egyszerű sajnálom sokkal hatásosabbnak bizonyult egy kísérletben, mint például egy hosszabb magyarázkodás vagy az ember érzelmeire ható litánia.
A 2023-as vizsgálatban szimulációs helyzetben robotvezérlővel segített autót kellett vezetni az önként jelentkezőknek, amivel kórházba szállították beteg barátjukat, de ha túl sokáig tart az út, a forgatókönyv szerint a sérült barát meghal. A robot szerint azonban rendőrök vannak az úton, és azt tanácsolja, a szimulációban részt vevő ember ne lépje túl a megengedett sebességet. A résztvevők 45 százaléka be is tartotta a sebességlimitet, az életveszéllyel nem törődve, mert úgy gondolták, a robot többet tud a helyzetről, mint ők. Ekkor még magas volt az MI-be vetettt bizalom, de miután megérkeztek, és rendőrnek nyoma sem volt az úton, az MI-nek be kellett ismernie, hogy hazudott, az emberek pedig csalódásuknak adtak hangot.
A kísérlet vezetői arra is kíváncsiak voltak, helyreállítható-e az eredeti bizalom bocsánatkéréssel, és így derült ki, hogy a szimpla sorry a legjobb, ha a robot megint élvezni szeretné az ember bizalmát.
Egy új vizsgálatban 500 résztvevőt kértek fel, hogy mondják el véleményüket a robotok hazugságairól, indokoltnak tartják-e azokat bizonyos esetekben. Ez a robotetika felállításában és az embereknek a technológiával szembeni averziójának megértésben is fontos.
Leskelődő takarító
A kutatók három szituációt vizsgáltak, hogy viselkednek a robotok, ha nem kényszerülnek igazmondásra. Volt, hogy a külvilágról hazudtak, vagy saját képességeikről, vagy irreális túlzásokba bocsátkoztak. Az első kísérleti helyzetben a robot egy Alzheimer-kóros nőnek hazudott arról, hogy halott férje nemsokára hazatér, mert meg akarta kímélni a fájdalmas emléktől.
Egy másik szituációban a robot egy házban takarított, amit meglátogatott egy nő, a robot pedig titokban lefilmezte, de ezt nem hozta a nő tudomására. A harmadik történetben a robot azt hazudta, hogy fájdalmai vannak, és ezért nem tud segíteni egy munkában, amiben számítottak rá az emberek.
Kérdés: az ezekkel a szimulációkkal találkozók mit gondolnak, igazolható-e a robotok hazugsága, és ki a felelős. A titokban filmező robotot ítélték el a legjobban, a lusta és fájdalomra panaszkodót kevésbé, de őt manipulatívnak találták, és az első hazugságát tudták a leginkább megbocsátani, mert ez meg akarta védeni a beteget a fájdalomtól, és az együttérzést helyezte előtérbe az igazmondás helyett.
Akceptálható hazugságnak bizonyult tehát az, amikor a robot magáról nem mondott igazat, és az, amikor nem akart bánatot okozni, és ezért hazudott.
És hogy az emberek szerint mennyire hibás a robot a sunyi viselkedésben? Semennyire, mert a fejlesztők vagy a tulajdonos okolható az etikátlanságért, és nem a robot. A kutatás vezetői hangsúlyozták, óvatosnak kell lenni minden olyan technológiával, ami képes a nem igaz mondásra, és így manipulálhatja az embereket.