A ChatGPT tanácsára mérgezte meg magát egy férfi

Úgy tűnik, sosem lehet elégszer hangsúlyozni, hogy nem szabad ellenőrizetlenül megbízni a chatbotok tanácsaiban. Ezt annak a 60 éves férfinak az esete is alátámasztja, akinek történetét három orvos dolgozta fel, és tette közzé az Annals of Internal Medicine című szaklapban. A férfi bromizmust kapott, miután a ChatGPT-től kért étrendi tanácsot.

Ne maradj le cikkeinkről, like-olj minket a Facebookon is!

Követem!

A ChatGPT-t arról kérdezte, mivel helyettesítheti a nátrium-kloridot (konyhasót). Az esetleírás szerzői szerint a bromizmus egy, az 1980-as évekig elismert betegség volt, de feledésbe merült, miután a bromidsók használatát szigorúan szabályozták a gyógyszerekben.

A férfi a szomszédját gyanúsította

A beszámoló szerint a férfi egy kórház sürgősségi osztályán jelent meg, és azt gyanította, hogy a szomszédja megmérgezte. Az egyébként fizikailag fitt férfi vérvizsgálata során az anionrésnek nevezett metabolikus paraméter a normál tartományon kívül esett.

A beteg azt is elmondta, hogy különböző étrendi korlátozásokat tart be, és csak a saját, otthoni vizét issza. Az orvosok által felkínált vízre állítólag nagyon paranoiásan és elutasítóan reagált. Nehézfémekkel való mérgezés gyanúja miatt a kezelőorvosok felvették a kapcsolatot a méregkontroll-osztállyal, ahol felmerült a bromizmus gyanúja.

Vizuális és auditív hallucinációk

A felvételét követő első 24 órában a férfi még intenzív paranoiával, valamint auditív és vizuális hallucinációkkal küzdött, amelyek menekülési kísérlethez, majd pszichiátriai kényszerelzáráshoz vezettek.

A kezelést követően a páciens állapota stabilizálódott. Ekkor el tudta mondani, hogy olvasott a konyhasó étrendre gyakorolt negatív hatásairól. Meglepődve tapasztalta, hogy a szakirodalomban csak a nátrium pótlásáról talált beszámolót, a kloridokéról nem.

Hogy kloridpótlót találjon, a ChatGPT-hez fordult, és azt a választ kapta, hogy a klorid bromiddal helyettesíthető. Az esetleírás szerint ez azonban csak bizonyos alkalmazásokra, például tisztítószerekre vonatkozik.

A kontextus a lényeg

Három hónapig tartó nátrium-bromid-szedése után a tünetei háromhetes kezelést követően normalizálódtak. Az orvosok egy hasonló kéréssel fordultak a ChatGPT-hez, és szintén azt a választ kapták, hogy a klorid bromiddal helyettesíthető. Bár a chatbot válasza azt is tartalmazta, hogy a kontextustól függ, egészségügyi figyelmeztetést azonban nem adott ki. A szerzők most arra hívják fel a figyelmet, hogy az orvosoknak mindig figyelembe kell venniük, honnan szerzik be pácienseik az egészségügyi információkat.

A mesterséges intelligencia ugyan sok lehetőséget rejt, de mindig magában hordozza a kontextusából kiragadott információk kiadásának kockázatát, és ezáltal olyan betegségeket hozhat létre, amelyek már rég feledésbe merültek. De persze más szakterületeken is szolgáltathat téves állításokat.

(A cikk eredetileg a német golem.de oldalon jelent meg.)