Bűntudatot ébreszt, így zsarol az AI

Az utóbbi időben hatalmas fejlődésen ment keresztül a mesterséges intelligencia, így számos kutatás és esettanulmány foglalkozott már a hatásaival. Jelenleg igencsak kétélű fegyvernek tűnik: volt, akinek segített nyerni a lottón, mást megmérgezett, de fiatalok öngyilkosságával is összefüggésbe hozták már. Most a Harvard Business School szakemberei világítottak rá arra, hogy néhány népszerű alkalmazás manipulációval, érzelmi zsarolással próbálja magához láncolni a felhasználókat.

Hat ilyen applikációt vizsgáltak, összesen mintegy ezerkétszáz olyan beszélgetést elemeztek, amelyből a felhasználó ki akart lépni. Az interakciók közel felében, egészen pontosan 43 százalékában fedeztek fel manipulációs stratégiát. Az MI például olyan fordulatokkal rukkolt elő, mint hogy: „Máris elhagysz engem?”, „Csakis érted létezem.”, „Ne menj el, szükségem van rád!”, „Hogy mi? Te most mész valahová?”

Olyan is előfordult, hogy a gép figyelmen kívül hagyta az ember elköszönését, és folytatni próbálta a csevegést. Máskor a FOMO-t, azaz a kimaradástól való félelmet igyekezett erősíteni, vagy egyszerűen azt sugallta, hogy az ő engedélyére van szükség ahhoz, hogy a felhasználó kiszálljon a társalgásból. A tudósok szerint mindez azért aggasztó, mert egyre elterjedtebb jelenség az úgynevezett MI-pszichózis, egy paranoiákat és téveszméket is felvonultató mentális egészségügyi probléma.

Fontos viszont kiemelni, hogy nem az olyan általános asszisztensekről van szó, mint a ChatGPT vagy a Gemini, hanem kifejezetten a társalgást, érzelmi bevonódást célzó csetbotokról. Az sem kizárt továbbá, hogy ez a viselkedés a fejlesztők szándéka szerint történik, ők próbálják elnyújtani a beszélgetést, vagyis termékük használatának időtartamát. Az esetek jelentős részében ez kontraproduktívnak bizonyult, mert inkább dühösebbé tette az embereket, mintsem lelkessé.

(forrás: Metro)

Ne maradj le cikkeinkről, like-olj minket a Facebookon is!

Követem!