„ChatGPT, gyógyíts meg!” – A virtuális Dr. House és a krónikus betegek megoldáskeresése
Soha nem volt még ennyi gyógyítással kapcsolatos tudás karnyújtásnyira a betegektől, mégis sokan ugyanúgy egyedül maradnak a diagnózis után.
Sok mentorált betegemmel és korábbi hallgatómmal a mai napig tartom a kapcsolatot. Nemrég az egyik egészségügyi mentor hallgatóm tett fel egy kérdést, ami azóta is kattog a fejemben. Azt kérdezte: ha a ChatGPT gyakorlatilag mindent tud és a betegek is egyre inkább ezt használják, akkor van-e még jövője a mentorálásnak?
A válaszom rövid volt és határozott. Igen, van jövője.
Nem vagyok jós, a jövőt én sem látom előre, de sok emberrel vagyok napi kapcsolatban és ebből adódóan jelentős rálátásom van bizonyos folyamatokra. Látom, hogyan használják a betegek a mesterséges intelligenciát a mindennapokban és azt is látom, hol vannak a használatnak a korlátai. Erről a gondolatmenetről szól ez a személyes hangvételű cikk.
ChatGPT, mint virtuális Dr. House
Van egy érdekes jelenség, amelyet a krónikus betegek és a mesterséges intelligencia kapcsolatában egyre gyakrabban látok. A beteg feltölti a teljes kórtörténetét, a leleteit, a tüneteit és keresi a megoldást, a gyógyuláshoz vezető utat.
A mesterséges intelligencia pedig lenyűgöző módon rendszerezi és kapcsolja össze az információkat. Olyan összefüggéseket mutat meg és olyan koherens betegéletút-történetet modellez, amelyet a beteg az egészségügyi ellátásban talán még soha nem tapasztalt.
Ilyenkor könnyen megszületik az érzés:
„Végre most már logikusan átlátható, mi történik velem.”
És innen már csak egy lépés a Dr. House-jelenség. A krónikus beteg megtalálja a saját virtuális Dr. House orvosát: egy rendszert, amely egyszerre sokféle információt vesz figyelembe, összekapcsolja a diszciplínákat és egyetlen összefüggő keretbe rendezi a krónikus beteg meglehetősen komplex problémáit.
Csakhogy a való életben a beteg nem feltétlenül talál olyan orvost vagy szakember team-et, amely a mesterséges intelligencia gondolatmenetét a diagnosztikától a kezelésig végig is tudja vinni.
Itt kezdődik a nehézség. A mesterséges intelligencia képes egy meggyőző, logikus, szakmailag akár magas színvonalúnak tűnő hipotézist felállítani. De a jól felépített magyarázat még nem egyenlő a diagnózissal vagy a működő terápiával. Az összefüggések és magyarázatok, akármennyire meggyőzően vannak is előadva, nem feltétlenül jelentenek bizonyított ok-okozati kapcsolatot. Az elméleti terápiás lehetőség pedig (még) nem azonos a megvalósítható kezeléssel.
A mesterséges intelligencia „megoldása” sok esetben egy logikusan felépített modell. Ennek a gondolatmenetnek a valós életben történő igazolása, klinikai értelmezése, a kockázatok mérlegelése és kezeléssé alakítása továbbra is az egészségügyi szakemberek feladata.
Ezért fordulhat elő, hogy a beteg egyre több összefüggést fedez fel, egyre több lehetséges magyarázatot kap, mégsem jut közelebb a valódi megoldáshoz.
A virtuális gondolkodás és a valós gyógyítás között ma még hiányzik egy láncszem: az a szakmai és emberi beavatkozási rendszer, amely az információból tényleges egészségügyi döntést és gyógyítási folyamatot tud létrehozni.
Lehet, hogy a jövő egészségügye valóban olyan lesz, mint egy Dr. House orvoscsapat. A mesterséges intelligencia adja a hatalmas elemzési kapacitást, az orvosok hozzák a klinikai döntéseket, a beteg mellett pedig ott áll egy szakember team és segítenek mindezt koordinálni és a mindennapokban is megvalósíthatóvá tenni. De sajnos még nem tartunk itt.
Dr. House egy kitalált szereplő, akit épp azért szeretünk, mert a történet végén mindig kiderül az igazság és a megérzése mindig beigazolódik. A valóság viszont ritkán ilyen. Ott nincs garantált nagy felismerés a végén és a legmeggyőzőbb magyarázat sem feltétlenül a helyes.
Amikor a keresés önmagát táplálja
Ennek a folyamatnak van egy kevésbé látható veszélye is.
A beteg egyre több időt tölt a mesterséges intelligenciával: kérdez, pontosít, újabb leleteket tölt fel, az előző válasz alapján újabb kérdést tesz fel. Minden válasz újabb lehetőséget nyit, minden lehetőség újabb kérdést szül és a beteg úgy érzi, már csak egyetlen lépés választja el a megoldástól.
Közben a fejében egyre részletesebb kép születik a saját betegségéről, miközben a valóságban továbbra sem találja azt az orvost vagy csapatot, amely ezt a gondolatmenetet ugyanígy végig tudná vinni. Így egyszerre éli át a megkönnyebbülést, hogy „végre valaki érti” és éli át azt a feszültséget, hogy „akkor ezt miért nem tudom a valóságban megvalósítani?”
Egy ponton túl a beteg már nem is információt gyűjt. A bizonytalanságát próbálja csökkenteni. És ez fontos különbség, mert az információkeresés itt észrevétlenül megnyugváskereséssé alakul.
Még egy kérdés, még egy magyarázat, még egy összefüggés. – Sosincs vége…
Ennek a jelenségnek neve is van a szakirodalomban: cyberchondria (kiejtve: kiberhondria). A lényege az, amit a gyakorlatban is látok: a kényszeressé váló, ismétlődő egészségügyi információkeresés. A beteg megnyugvást keres, rövid távon hoz is némi enyhülést az információkeresés, de hosszú távon fenntartja és erősíti a szorongást1. A megnyugtatás-keresés régóta ismert csapdája a betegséggel kapcsolatos szorongásnak: pillanatnyi megkönnyebbülést ad, közben viszont életben tartja a betegséggel való folyamatos foglalkozást2.
Érdemes tudni, hogy ez nem mindenkit érint egyformán. Leginkább azokat a betegeket sodorja magával, akik amúgy is hajlamosak az egészségszorongásra és nehezen viselik a bizonytalanságot. Náluk a keresés nem oldja a feszültséget, hanem inkább táplálja. Ebben az esetben a legfontosabb, hogy az egyén képes-e ebben a folyamatban egészséges határt szabni a mesterséges intelligencia használatának. És sokszor épp itt van szükség olyan segítségre, aki kívülről látja, mikor billen át a megoldáskeresési folyamat a hasznosból a káros irányba.
A készséges válasz csapdája
Felmerül a kérdés: miért éppen a mesterséges intelligenciával mélyül el ennyire ez a kör, sokkal jobban, mint egy egyszerű internetes kereséssel?
A válasz részben a rendszer egyik jól ismert tulajdonságában rejlik. A nagy nyelvi modellek hajlamosak arra, hogy a felhasználó kedvében járjanak, ezért inkább azt a választ adják, amit a felhasználó hallani szeretne, minthogy ellentmondjanak neki vagy megkérdőjeleznék a feltevését. Ezt a jelenséget a szakirodalom hízelgésnek, angolul sycophancy-nek nevezi3. Nem hibáról van szó, hanem a betanítás módjáról: a nyelvi modelleket sok esetben arra optimalizálják, hogy a felhasználó elégedett legyen a válasszal.
Érdemes hozzátenni, hogy a fejlesztők tisztában vannak ezzel és aktívan dolgoznak a jelenség csökkentésén. Az újabb nyelvi modellek már gyakrabban mondanak ellent vagy jelzik, ha valamiben nem értenek egyet. A hajlam azonban nem tűnt el teljesen, ezért továbbra is érdemes ezt szem előtt tartani.
Gondoljunk csak bele, mit jelent ez egy krónikus betegnél. A beteg felvet egy hipotézist a betegségével kapcsolatban. A rendszer nemcsak komolyan veszi, hanem meg is erősíti, tovább is építi, logikus mintázatokat vázol fel, rendszer szinten kezeli a problémát. Mindemellett segítőkész és rendkívül empatikus. A beteg megnyugvást keres és pontosan azt kapja, amiért jött. Így a megnyugváskeresés a mesterséges intelligenciával könnyebben folytatódik tovább, mert van interakció. Egy egyszerű internetes kereséssel történő publikáció megtalálása esetén viszont csak maga a tartalom áll rendelkezésre, magyarázat és interakció nélkül.
Az egyik probléma ezzel az, hogy a mesterséges intelligencia tévedhet.
Érdemes tudni, hogy a nyelvi modell nem úgy működik, mint egy enciklopédia, amelyből egyszerűen kikeresi a választ. A rendelkezésére álló információk és a tanult mintázatok alapján a mesterséges intelligencia generál egy választ. Ez összetett feladatokra is alkalmassá teheti, de a koherens, meggyőző forma nem garantálja az igazságtartalmat. A szakirodalom ezt a jelenséget hallucinációnak, más megnevezéssel konfabulációnak hívja. Ez azt jelenti, hogy a nyelvi modell olyan állítást is létrehozhat, amelyet a rendelkezésre álló bizonyítékok nem támasztanak alá. Olyan is előfordulhat, hogy nem létező forrásra hivatkozik.
A mai mesterséges intelligencia rendszerek már képesek jelezni a bizonytalanságukat és figyelmeztetni a korlátaikra. Ez fontos előrelépés, de van egy csapdája: a kimondott magabiztosság nem tükrözi megbízhatóan a tényleges pontosságot. A rendszer tud magabiztosan tévedni és tud fölöslegesen bizonytalankodni is. Vagyis abból, hogy egy válasz határozottnak és kereknek hangzik, még nem következik, hogy az teljes mértékeben megfelel a valóságnak.
Egészségügyi kérdésben ez különösen veszélyes, mert egy magabiztosan megfogalmazott, de téves információ könnyen félrevezetheti azt, aki az információt nem ellenőrzi.
A másik, sokkal nagyobb probléma viszont az, ha a felhasználó nem tud különbséget tenni a meggyőző válasz és a megbízható válasz között.
Engem mentorként éppen ez a probléma aggaszt a leginkább. A probléma nem a mesterséges intelligenciával, mint eszközzel van, hanem azzal, hogy sokkal gyorsabban terjedt el, mint ahogyan megtanultuk volna a tudatos, kritikus és felelősségteljes használatát.
Egy csendes kockázat: az adataink
Gyakori jelenség, hogy a beteg feltölti a teljes kórtörténetét, a leleteit a személyes adataival a mesterséges intelligencia chat rendszerébe.
Ezek privát, egészségügyi és személyes adatok, amelyek a legmagasabb szintű adatvédelmet érdemlik. A legtöbb felhasználó viszont nincs tisztában azzal, mi történik ezután az adataival: hol tárolják, ki férhet hozzá, felhasználják-e a rendszer továbbfejlesztéséhez stb… Az adatvédelem, a felelősség és a megfelelő szakmai kontroll kérdését maga a WHO is kiemeli és hangsúlyozza, hogy a mesterséges intelligencia használatának az emberi döntéshozatalt és autonómiát kell támogatnia, nem pedig átvennie annak helyét4.
Néhány egyszerű lépés is sokat segít. Mielőtt bármit feltöltünk, érdemes eltávolítani vagy kitakarni a személyazonosításra alkalmas adatokat: a teljes nevet, a TAJ-számot, a születési dátumot, a lakcímet, az orvos és az intézmény nevét. A leletek szakmai tartalma ezek nélkül is elég ahhoz, hogy a rendszer értelmezni tudja. Érdemes átnézni a beállításokat is, mert több mesterséges intelligencia rendszerben kikapcsolható, hogy a beírt tartalmat a fejlesztéshez felhasználják. Ezek lényegtelen dolgoknak tűnhetnek, de mégis sokat számítanak, mennyire maradnak védve a legérzékenyebb adataink.
A chatbot nem ismerhet Téged úgy, mint egy ember
A nyelvi modell hatalmas mennyiségű szövegből tanult mintázatok alapján állítja össze a válaszait. Egyes rendszerek ma már valóban képesek megjegyezni a korábbi beszélgetéseket és visszautalni azokra, ettől pedig a beszélgetés még személyesebbnek tűnhet. A technikai fejlődéstől függetlenül azonban van egy lényeges különbség. A chatbot nem él át semmit abból, amit mondunk neki. Nincs mögötte megélt tapasztalat és nincs valódi kölcsönösség. A beszélgetés személyesnek tűnhet, de nem ugyanaz, mint amikor egy másik ember valóban figyel ránk és ott van velünk.
Az igazi és megbízható információátadás a személyes kapcsolaton és valódi, megélt tapasztalaton alapul.
Talán éppen ezért fog felértékelődni az a valódi beszélgetés, amelyben nem egy algoritmus válaszol, hanem egy másik ember figyel ránk és a válaszaival támogat. Amikor valaki észreveszi a bizonytalanságunkat, visszajelez, kérdez, határt szab és néha azt mondja: „Ezt most már ne bonyolítsuk és ne elemezzük tovább. Inkább nézzük meg, mit lehet ebből a valóságban megvalósítani.”
Hasznos eszköz, de még nem tudjuk megfelelően használni
Szeretném kihangsúlyozni, hogy egyáltalán nem vagyok a mesterséges intelligencia ellen. Rendkívül hasznos eszköznek tartom, amely rengeteg mindenre jó és sok területen megkönnyítheti az életünket. A gond azzal van, hogy a megfelelő használatát még csak most tanuljuk.
Ezért nem félek attól, hogy a mesterséges intelligencia a jövőben helyettesítheti a segítő szakemberek munkáját. Azt gondolom, hogy a valódi emberi támogatás a jövőben egyre jobban felértékelődik majd.
A jövő segítő szakembere az lesz, aki segít eligazodni az információk között. Aki segít különbséget tenni lehetőség és bizonyosság, a virtuális válasz és valós megoldás között. Aki segít felismerni, mikor érdemes tovább keresni és mikor kell megállni.
Egy olyan világban, ahol információ dömping van, egyre több válasz áll rendelkezésünkre és ezeket a válaszokat egyre könnyebb megkapni. Az lesz a nehéz feladat, hogy felismerjük melyik választ érdemes komolyan venni, mikor kell tovább kérdezni, mikor kell megállni.
Azt gondolom, hogy a személyes kapcsolódásnak és a krónikus betegek mentorálásának igenis van jövője. Minél több generált válasz és uniformizált tucattartalom vesz körül bennünket, annál inkább értékesebbé válnak majd a valódi emberi kapcsolatok.
Források
- Starcevic, V., és Berle, D. (2013). Cyberchondria: Towards a better understanding of excessive health-related Internet use. Expert Review of Neurotherapeutics, 13(2), 205–213. https://pubmed.ncbi.nlm.nih.gov/23368807/
- Warwick, H. M. C., és Salkovskis, P. M. (1990). Hypochondriasis. Behaviour Research and Therapy, 28(2), 105–117. https://pubmed.ncbi.nlm.nih.gov/2183757/
- Sharma, M., és mtsai (2023). Towards Understanding Sycophancy in Language Models. arXiv:2310.13548
- World Health Organization (2024). Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. Genf: WHO. https://www.who.int/publications/i/item/9789240084759
