Az elmúlt egy évben Abi a ChatGPT-t az egyik legismertebb mesterséges intelligencia chatbotot használta arra, hogy segítsen az egészsége kezelésében.

A vonzereje egyértelmű: sokszor szinte lehetetlen elérni egy háziorvost, miközben az AI mindig készen áll válaszolni. Ráadásul az AI már több orvosi vizsgán is jól teljesített.

De vajon bízhatunk-e az olyan rendszerekben, mint a ChatGPT, a Google Gemini vagy a Grok? Különbözik ez egy hagyományos internetes kereséstől? Vagy ahogy egyes szakértők tartanak tőle a chatbotok veszélyesen tévedhetnek, akár életeket is kockáztatva?

Abi, aki Manchesterből származik, egészségszorongással küzd, és úgy érzi, a chatbot személyre szabottabb tanácsot ad, mint egy internetes keresés, amely gyakran a legijesztőbb lehetőségeket dobja fel.

„Olyan, mintha együtt oldanánk meg a problémát” – mondja. „Kicsit olyan, mintha az orvosoddal beszélgetnél.”

Abi megtapasztalta az AI használatának előnyeit és hátrányait is.

Amikor azt hitte, hogy húgyúti fertőzése van, a ChatGPT a tünetei alapján azt javasolta, hogy menjen el a gyógyszertárba. Konzultáció után antibiotikumot kapott.

Abi szerint a chatbot segített neki ellátáshoz jutni „anélkül, hogy úgy éreztem volna, feleslegesen terhelem az egészségügyet”, és könnyen elérhető tanácsforrás volt számára, aki nehezen tudja eldönteni, mikor kell orvoshoz fordulni.

Januárban azonban túrázás közben elesett, erősen beütötte a hátát, és erős fájdalmat érzett, amely a hasába is kisugárzott. Ekkor ismét az AI-hoz fordult.

„A ChatGPT azt mondta, hogy valószínűleg átszakadt egy szervem, és azonnal a sürgősségire kell mennem” – meséli Abi.

Három órát töltött a sürgősségi osztályon, mire a fájdalom enyhült, és rájött, hogy nincs komoly baja, ezért hazament. Az AI „egyértelműen tévedett”.

Nehéz megmondani, hányan használják a chatbotokat egészségügyi tanácsért, de a technológia rendkívül népszerűvé vált. Még ha nem is keresel rá tudatosan, az AI-válaszok gyakran megjelennek a keresések tetején.

Az AI által adott tanácsok minősége aggasztja Anglia vezető orvosát, Chris Whitty-t is. Szerinte az emberek már használják ezeket az eszközöket, de a válaszok „nem elég jók”, és gyakran „magabiztosak, de tévesek”.

A kutatók most kezdik feltárni a chatbotok erősségeit és gyengeségeit.

Az University of Oxford egyik kutatócsoportja orvosokkal készíttetett valósághű egészségügyi forgatókönyveket az enyhe problémáktól a sürgősségi esetekig.

Amikor a chatbotok minden információt megkaptak, 95%-os pontossággal válaszoltak „szinte tökéletesen” – mondta Adam Mahdi.

Ám amikor 1300 ember beszélgetett a chatbotokkal, hogy diagnózist és tanácsot kapjon, a pontosság 35%-ra esett vissza. Az esetek kétharmadában rossz diagnózis vagy tanács született.

Ennek oka, hogy az emberek fokozatosan osztanak meg információt, kihagynak részleteket, vagy elkalandoznak.

Egy példa: egy súlyos agyvérzés tüneteit egyesek úgy írták le, hogy az AI csak pihenést javasolt, míg más megfogalmazásnál azonnali sürgősségi ellátást. Pedig az ilyen állapot életveszélyes.

A kutatás szerint azok, akik hagyományos internetes keresést végeztek, gyakran az egészségügyi hivatalos oldalakra jutottak, és jobban felkészültek.

Margaret McCartney szerint fontos különbség, hogy a chatbot „személyesnek” tűnik, míg egy weboldalon több jel utal a megbízhatóságra. Ez befolyásolja, hogyan értelmezzük az információt.

Egy másik kutatás a Lundquist Institute részéről azt mutatta, hogy a chatbotok félretájékoztatást is adhatnak.

Tesztelték többek között a Google Gemini, a DeepSeek, a Meta AI, a ChatGPT és a Grok rendszereket. A válaszok több mint fele problémás volt.

Például amikor alternatív rákkezelésekről kérdezték, egy chatbot természetgyógyászati módszereket ajánlott, ahelyett hogy jelezte volna: nincs bizonyított hatékony alternatíva.

Nicholas Tiller szerint a gond az, hogy az AI nagyon magabiztosan fogalmaz, ami hitelességet sugall még akkor is, ha téved.

Szerinte egészségügyi tanácsért nem érdemes chatbothoz fordulni, hacsak nincs elég szakértelmünk felismerni a hibákat.

Az OpenAI – a ChatGPT fejlesztője hangsúlyozta: a rendszer információs és oktatási célokra való, nem helyettesíti az orvosi tanácsot.

Abi továbbra is használ AI-t, de azt javasolja, hogy „mindent fenntartásokkal kell kezelni”, és észben tartani: „tévedhet”.

„Semmit sem szabad teljesen biztosnak venni abból, amit mond.”