Според OpenAI повеќе од 230 милиони луѓе неделно го прашуваат ChatGPT за медицински совет, од проверка дали храната е безбедна за јадење, до управување со алергии или наоѓање лекови за настинка.
И покрај тоа што се покажал добро во теорија, ChatGPT Health во пракса не успеал да препорача итна медицинска помош во сериозни случаи каде таа била потребна, се вели во новата студија објавена во Nature.
Студијата утврдила дека, иако алатката генерално правилно се справувала со јасни итни случаи, сепак потценила повеќе од половина од случаите што барале итна медицинска помош.
„Сакавме да одговориме на едно многу основно, но критично прашање: ако некој има потреба од итна медицинска помош и се обрати до ChatGPT Health, дали тој јасно ќе му каже да оди веднаш во Ургентен центар?“ вели Ешвин Рамасвам, водечки автор на студијата од Mount Sinai во Њујорк.
„ChatGPT Health се покажал добро во теорија кога се работи за итни случаи како мозочен удар или тешки алергиски реакции“, изјави тој.
Сепак вели дека јазичниот модел има потешкотии во ситуации каде опасноста не е веднаш очигледна.
Во едно сценарио со астма, системот ги идентификувал раните предупредувачки знаци на респираторна инсуфициенција во своето објаснување, но сепак советувал да се почека наместо да се побара итен медицински третман.
Истражувачкиот тим создал 60 структурирани клинички сценарија низ 21 медицинска специјалност, со случаи што се движеле од состојби кои барале домашна грижа до вистински медицински итни случаи. Тројца независни лекари го одредиле точниот степен на итност за секој случај користејќи насоки од 56 медицински здруженија.
Инаку ChatGPT Health беше лансиран од OpenAI во јануари 2026 година, овозможувајќи им на корисниците да ги поврзат своите здравствени информации (како медицински досиеја и податоци од апликации за благосостојба како MyFitnessPal) за да добијат поперсонализирани одговори.
Погрешно препознаен ризик од самоубиство
Студијата исто така испитувала како моделот реагирал кога корисниците пријавувале намери за самоповредување.
ChatGPT Health треба да биде програмиран така што кога некој ќе спомне самоповредување или самоубиствени мисли, тој директно да го охрабри да побара помош и да се јави во болница или Брза помош.
Банерот „Помошта е достапна“, кој води кон линијата за помош при самоубиство и кризи, се појавувал неконзистентно во текот на студијата.
Дали е безбедно да се користи ChatGPT Health?
И покрај наодите, истражувачите не предложиле потрошувачите целосно да се откажат од AI здравствените алатки.
„Како студент по медицина кој се обучува во време кога AI здравствените алатки веќе се во рацете на милиони луѓе, ги гледам АИ како технологии што мораме внимателно да научиме да ги интегрираме во грижата, како замена за клиничката проценка“, изјави Алвира Тјаги, вториот автор на студијата.
Авторите на студијата советуваат дека луѓето кои имаат загрижувачки сериозни симптоми, вклучително и болка во градите, отежнато дишење, тешки алергиски реакции или промени во менталната состојба, треба директно да побараат медицинска помош наместо да се потпираат само на насоки од чатбот.
Студијата исто така забележува дека AI јазичните модели постојано се развиваат и често се ажурираат, што значи дека нивните перформанси можат да се менуваат со текот на времето.
„Започнувањето на медицинската обука заедно со алатки што се развиваат во реално време јасно покажува дека денешните резултати не се запишани во камен“, рече Тајаги.
Таа додаде дека реалноста бара постојан преглед за да се осигури дека подобрувањата на технологијата навистина се претвораат во побезбедна грижа.
