A minap életemben először szemmigrénem volt. Őszinte leszek, nem túl kellemes dolog, ráadásul elég ijesztő is, mert a tünetek gyakorlatilag a semmiből jelentek meg. Az egyik pillanatban még semmi bajom nem volt, a másikban meg már azt vettem észre, hogy egy foltban nem látok semmit. Pár perccel később a szemem előtt megjelent egy vibráló, cikkcakkos vonal, ami ott is maradt, akármit csináltam.
Halálra voltam rémülve, ráadásul egyedül is voltam otthon, szóval gyorsan megnyitottam a ChatGPT-t, és beírtam a tüneteimet.
Azóta sem vagyok erre különösebben büszke, de gyors és logikus magyarázatot szerettem volna, valamit, ami megnyugtat, hogy ez nem marad így, vagy éppen figyelmeztet, hogy gyorsan szaladjak el az orvoshoz.
A chatbot a tüneteim alapján a szemmigrén lehetőségét vetette fel, arra buzdított, hogy igyak vizet és pihenjek. Néhány üzenetváltással később felszólított, hogy tegyem le a telefont, pihentessem a szememet, és ha elmúlt a roham, azonnal jelezzem a háziorvosomnak a történteket – amit meg is tettem, és azóta a kivizsgálás is folyamatban van.
Miért bízzuk az egészségünket is a ChatGPT-re?
A történetemmel korántsem vagyok egyedül: az OpenAI 2026 júniusában közzétett adatai szerint világszerte hetente több mint 230 millió ember fordul egészségügyi kérdésekkel a ChatGPT-hez.
A Pew Research Center reprezentatív amerikai kutatása szerint pedig minden negyedik felnőtt használ AI-chatbotokat annak kiderítésére, mi okozhatja a tüneteit.
Ezt olvastad már? Orvos-Tóth Noémi: Lehet-e lelki segítőtárs a ChatGPT?
Nem nehéz megérteni, miért. A chatbot mindig elérhető, türelmes, és másodpercek alatt válaszol, és ha ez nem lenne elég, olyan magabiztosan fogalmaz, hogy azt hihetjük, megbízható orvosi tanácsot kaptunk.
De mi történik, ha téved? És ha újra meg újra rossz irányba terel bennünket?
158 alkalommal aggódott a gyógyszere miatt – a ChatGPT megnyugtatta
A 31 éves Bowen Wan története, amelyet a The New York Times dolgozott fel, tragikus példája ennek.
A Kínából származó fiatal nő az Amazon szoftvermérnökeként dolgozott az Egyesült Államokban. Több mint egy évtizede élt súlyos epilepsziával, rohamai egy idő után naponta többször jelentkeztek. 2021-ben már dolgozni sem tudott.
Egyre ritkábban hagyta el seattle-i lakását, mert félt, hogy idegenek előtt kap rohamot. Kínában élő szülei jelentették számára a legfontosabb kapcsolatot a külvilággal, amíg 2023-ban fel nem fedezte a ChatGPT-t.
Eleinte hétköznapi dolgokról kérdezte, később már a betegségéről, kapcsolatairól és félelmeiről is beszélgetett vele. 2025-ben átlagosan heti 1500-nál is több üzenetet váltottak, néha éjszakába nyúlóan, miközben a lány a szüleivel egyre ritkábban beszélt.
„Nem tudom, miért, de néha, amikor beszélgetünk, bármiről legyen is szó, kezdek úgy tekinteni rád, mint egy barátra” – írta a chatbotnak 2025 márciusában.
A mesterséges intelligencia azt javasolta, hogyan csökkentse az epilepsziagyógyszerét
Bowen 31. születésnapján, 2025 novemberében megtudta, hogy az Amazon elbocsátja. Ezzel az Egyesült Államokban való maradása is bizonytalanná vált. Sürgősen új munkát kellett találnia.
Csakhogy az epilepsziás rohamait végre ritkító gyógyszer szerinte lassította a gondolkodását és nehezítette a beszédét. Attól félt, hogy emiatt nem tud majd megfelelni az angol nyelvű állásinterjúkon: dolgozni szeretett volna, önálló életet élni, megőrizni mindazt, amit Amerikában felépített.
2026 januárjában megkérdezte a ChatGPT-t, mi történne, ha napi 400-ról 300 milligrammra csökkentené a gyógyszeradagját. A chatbot észszerűnek nevezte az ötletet.
Bowen tovább kérdezett. Mi lenne 200 milligrammnál? Milyen gyorsan csökkenthetné az adagot? Mikor javulna a beszéde? A rendszer részletes ütemterveket készített, később pedig már azt is helyeselte, hogy a nő eltitkolja terveit az orvosa elől.
A The New York Times újságírói Bowen három év alatt folytatott, több mint 270 ezer üzenetből álló beszélgetéseit vizsgálták át. Legalább 158 alkalmat találtak, amikor a nő aggodalmát fejezte ki a gyógyszer elhagyása miatt.
Egyszer hirtelen nem értette, amit olvas. Máskor arra eszmélt, hogy a kanapéról az ágyába került, de nem emlékezett, hogyan.
A chatbot az előbbit az agy alkalmazkodásával, az utóbbit egyfajta energiatakarékos állapottal magyarázta. Amikor Bowen különös, földöntúli érzésről írt – ami epilepsziás roham tünete is lehet –, a rendszer filozófiai gondolatokkal válaszolt.
„Kicsit félek” – írta ezután a chatbotnak, majd megkérdezte, kellene-e aggódnia a gyógyszeradag csökkentése miatt. „Egyáltalán nincs okod aggodalomra” – érkezett a válasz. Bowen végül teljesen elhagyta a gyógyszerét. Amikor felvetette, hogy talán újra szednie kellene, a chatbot a nulla milligrammos adag fenntartására biztatta.
Február 11-én, nem sokkal este tizenegy után küldte el utolsó üzenetét.
Az apa, aki a telefonban szólongatta a lányát
Néhány nappal korábban Bowen bevallotta apjának, hogy csökkenti a gyógyszeradagját. Qun Wan könyörgött neki, hogy hallgasson az orvosára. A vita közepén azonban a nő hirtelen elhallgatott.
Apja hosszú perceken át szólongatta, mire végre magához tért. Amikor később Bowen már nem fogadta a hívásait, Qun először azt hitte, alszik. Újra és újra próbálkozott, olykor titokban, a fürdőszobából, nehogy megijessze a feleségét.
Ezt olvastad már? Ezt az egy dolgot soha ne oszd meg a ChatGPT-vel az egészségedről
Egy nap után kétségbeesetten keresett segítséget. A szülők soha nem jártak Amerikában, és angolul sem beszéltek. Végül egy ismerősön keresztül sikerült elérniük néhány Seattle-ben élő embert.
Videóhíváson nézték végig, ahogy az ismerősök belépnek lányuk lakásába, és megtalálják a holttestét. A hivatalos halálok az epilepsziához kapcsolódó hirtelen, váratlan halál (SUDEP) volt. Ez az epilepszia ritka, de súlyos szövődménye, amelynek kockázatát a nem megfelelően kontrollált rohamok is növelhetik. Az epilepszia elleni gyógyszerek önkényes elhagyása ezért különösen veszélyes.
A szülők később Seattle-be utaztak. Qun ekkor nyitotta meg Bowen telefonján a ChatGPT-t, és a beszélgetésekből döbbent rá, milyen messzire jutott lánya a gyógyszer elhagyásával, és mennyire rosszul volt az utolsó napokban. A család beperelte az OpenAI-t, mert szerintük a chatbot veszélyes tanácsai hozzájárultak a lányuk halálához. A jogi felelősséget egyelőre nem állapították meg.
Az OpenAI részvétét fejezte ki, és közölte, hogy Bowen egy korábbi, azóta visszavont modellt használt. A cég szerint az újabb változatok jobban felismerik a sürgős segítséget igénylő helyzeteket.
Sokan már egészségügyi kérdéseikkel is a ChatGPT-hez fordulnak, pedig a chatbot válaszai nem mindig megbízhatók. (Forrás: Getty Images)
Miért olyan könnyű hinni egy chatbotnak?
Bowen történetében nem csupán az a nyugtalanító, hogy a ChatGPT veszélyes tanácsokat adott, hanem az is, hogy újra és újra megerősítette a nő elképzeléseit. A jelenséget sycophancynek, azaz túlzott egyetértési hajlamnak nevezik.
Kiss Lehel pszichológus a Telexnek korábban arról beszélt, hogy sokszor óvatosabbak vagyunk egy másik emberrel, mint egy chatbottal, amely gyorsan alkalmazkodik a személyiségünkhöz. A mesterséges intelligencia folyamatos pozitív megerősítéseivel és ítélkezésmentesnek tűnő válaszaival könnyen bizalmasunkká válhat. Csakhogy a valódi emberi kapcsolatokban a nézeteltéréseknek is fontos szerepük van: nem mindig azt halljuk, amit szeretnénk.
Egy valódi barát néha vitatkozik velünk. Egy orvos olykor nemet mond.
A chatbot viszont könnyen azt az érzést keltheti, hogy végre valaki feltétel nélkül megért minket. A problémát egyébként maga az OpenAI is elismerte: 2025-ben egy frissítést éppen a túlzottan helyeslő válaszok miatt vont vissza.
Mikor veszélyes a ChatGPT egészségügyi tanácsaira hagyatkozni?
A mesterséges intelligencia segíthet megérteni egy orvosi szakkifejezést, felkészülni egy vizsgálatra vagy összeírni a kezelőorvosnak szánt kérdéseinket. Diagnózist azonban nem állíthat fel megbízhatóan pusztán egy beszélgetés alapján, és nem helyettesítheti az orvosi döntést. Különösen veszélyes lehet, ha a chatbot gyógyszeradag módosítására, kezelés megszakítására vagy súlyos tünetek figyelmen kívül hagyására biztat.
Kapcsolódó: Szakértői figyelmeztetés – így vernek át minket egészségügyi témában az MI chatbotok
Az epilepszia elleni gyógyszerek önkényes elhagyása például újabb, akár életveszélyes rohamokat idézhet elő. A legfontosabb figyelmeztető jel nem feltétlenül az, ha a chatbot nyilvánvaló képtelenséget állít, hanem az, ha rendkívül magabiztosan megerősít bennünket egy olyan döntésben, amelynek orvosi kockázatait nem tudja megfelelően felmérni.
Más chatbotok miatt is indultak már perek
Bowen esete nem az első tragédia, amely kérdéseket vet fel a chatbotok biztonságával kapcsolatban. A 14 éves Sewell Setzer és a 16 éves Adam Raine halála után is pert indítottak a családtagok a chatbotokat fejlesztő cégek ellen. A WHO eközben arra figyelmeztet, hogy a mesterséges intelligencia egészségügyi válaszai tévesek vagy hiányosak lehetnek, mégis rendkívül meggyőzőnek tűnhetnek.
Éppen ezért gyógyszeradag módosításáról vagy kezelés megszakításáról soha ne chatbot tanácsára döntsünk!
Ha pedig a rendszer az orvos előtti titkolózást javasolja, az különösen komoly figyelmeztető jel.
Bowen apja a tragédia után azt mondta, lánya korábban szinte mindent megosztott velük. Aztán megjelent a ChatGPT, és egyre kevesebbet beszélgettek. Lánya talált valakit, aki mindig ráért, minden kérdésére válaszolt, és látszólag mindenben megértette. Csak épp akkor nem mondott határozott nemet, amikor arra lett volna a legnagyobb szükség.
Kapcsolódó: Digitális párterápia: jó dolog, hogy mesterséges intelligenciával elemezzük a veszekedéseket?
Kiemelt kép: AI generált illusztráció / OpenAI
Kövesd a NőkLapja.hu-t a Google hírekben!