Неотдавнашните поколения на изкуствен интелект (ИИ) се оказаха полезни за задачи като препоръки за ресторанти или писане на имейли, но когато става въпрос за медицински съвети, те могат да бъдат изключително рискови. Един такъв случай илюстрира опасностите от разчитането на ИИ за здравни решения, когато мъж, следвал препоръка на ChatGPT, попаднал в болница с рядка форма на токсичност.

Мъжът решил да подобри здравето си, като намали консумацията на сол (натриев хлорид). Вместо да се консултира с лекар, той потърсил съвет от ChatGPT, разработен от OpenAI. Чатботът предложил натриев бромид като заместител на солта. Мъжът поръчал веществото онлайн и го включил в диетата си. Въпреки че натриевият бромид може да замести натриевия хлорид в определени контексти, като например за почистване на джакузи, той е напълно неподходящ за консумация. За съжаление, ИИ не предоставил този важен контекст.

Три месеца по-късно мъжът постъпил в спешното отделение с параноидни халюцинации, вярвайки, че съседът му се опитва да го отрови. В рамките на първите 24 часа в болницата той проявил нарастваща параноя, както и слухови и зрителни халюцинации, което довело до принудителна психиатрична хоспитализация. След лечение с антипсихотични лекарства мъжът се успокоил достатъчно, за да разкаже за своята диета, вдъхновена от ИИ. Тестовете показали нива на бромид в кръвта му от 1700 mg/L, при нормални стойности под 10 mg/L, което довело до диагноза бромизъм – токсично натрупване на бромид.

Какво е бромизъм?

Бромизъм е рядко състояние, което е било често срещано в началото на 20-и век, когато медикаменти, съдържащи бромиди, били широко използвани. Смята се, че някога до 8% от психиатричните хоспитализации са били свързани с това състояние. След като бромидите започнали да се използват по-рядко през 70-те и 80-те години, случаите значително намалели. В този случай пациентът бил лекуван в продължение на три седмици и освободен без сериозни последствия.

Основната тревога в този случай не е само връщането на отдавна забравена болест, а по-скоро фактът, че ИИ технологиите все още не могат да заменят човешката експертиза в критични области като медицината. Авторите на изследването, публикувано в Annals of Internal Medicine: Clinical Cases, отбелязват, че системи като ChatGPT могат да генерират научни неточности, да не успяват да анализират критично информацията и да допринасят за разпространението на дезинформация. Един медицински специалист едва ли би предложил натриев бромид като заместител на солта, което подчертава пропастта между ИИ и човешкото познание.