През изминалата година Аби използва ChatGPT – един от най-известните AI чатботове – за да ѝ помага да управлява здравето си. Привлекателността е ясна. Понякога е почти невъзможно да се свържеш с личен лекар, пише BBC, а изкуственият интелект винаги е готов да отговори на въпросите ти. Освен това AI успешно е издържал някои медицински изпити.

Така че трябва ли да се доверяваме на ChatGPT, Gemini и Grok? Различно ли е използването им от обикновено търсене в интернет? Или, както се опасяват някои експерти – чатботовете допускат ли опасни грешки и поставят човешки животи на риск?

Аби, която е от Манчестър, страда от тревожност, свързана със здравето, и смята, че чатбот ѝ дава по-персонализирани съвети от интернет търсене, което често я отвежда директно към най-страшните възможности.

„Позволява нещо като съвместно решаване на проблеми,“ казва тя. „Малко като разговор с лекар.“

Аби е видяла и добрата, и лошата страна на използването на AI чатботове за здравни съвети.

Когато е мислела, че има инфекция на пикочните пътища, ChatGPT разгледал симптомите ѝ и ѝ препоръчал да отиде при фармацевт. След консултация ѝ бил предписан антибиотик.

Аби казва, че чатботът ѝ е помогнал да получи необходимата грижа „без да се чувства, че губя времето на здравната система“, и че е лесен източник на съвет за човек, който „често се затруднява да прецени кога трябва да посети лекар“.

Но през януари Аби „се подхлъзнала и паднала тежко“ по време на поход. Ударила силно гърба си в камък и усетила „ужасно“ напрежение в гърба, което се разпространявало към корема. Затова потърсила съвет от изкуствения интелект в джоба си.

„ChatGPT ми каза, че съм пробила орган и трябва незабавно да отида в спешното отделение,“ казва Аби.

След като прекарала три часа в спешното, болката започнала да отшумява и Аби осъзнала, че не е в критично състояние, затова се прибрала вкъщи. Изкуственият интелект „очевидно е сбъркал“. Изследователите започват да разкриват силните и слабите страни на чатботовете.

Лабораторията Reasoning with Machines към Оксфордския университет събрала екип от лекари, които създали подробни и реалистични сценарии – от леки здравословни проблеми, които могат да се лекуват у дома, до случаи, изискващи преглед при личен лекар, посещение в спешно отделение или дори повикване на линейка.

Когато чатботовете получавали пълната информация, те били точни в 95% от случаите. „Бяха невероятни, всъщност почти перфектни,“ казва изследователят проф. Адам Махди.

Но историята била съвсем различна, когато 1300 души получили сценарий и трябвало да водят разговор с чатбот, за да получат диагноза и съвет.

Именно взаимодействието между човек и изкуствен интелект довело до срив – точността паднала до 35%, което означава, че в две трети от случаите хората получавали грешна диагноза или неподходящи препоръки.

Махди обяснява: „Когато хората разговарят, те споделят информация постепенно, пропускат детайли и се разсейват.“

Един от сценариите описвал симптомите на инсулт, причинен от кръвоизлив в мозъка, наречен субарахноидален кръвоизлив – животозастрашаващо състояние, което изисква спешно болнично лечение.

Но, както се вижда, малките разлики в начина, по който хората описват симптомите си на ChatGPT, могат да доведат до напълно различни съвети.