ChatGPT не смог адекватно оценить риски развития болезней сердца

Учёные из Медицинского колледжа Элсона Университета штата Вашингтон и Медицинского колледжа Флойда в США в журнале PLOS ONE опубликовали результаты исследования, как чат-бот ChatGPT от OpenAI может анализировать риск развития болезней сердца.

Исследователи прогнали через бот десятки тысяч историй болезни, чтобы эта модель ИИ спрогнозировала развитие сердечного заболевания в каждом конкретном случае. Однако ChatGPT показал «непоследовательность» при выдаче заключения. Один и тот же анамнез бот оценивал по-разному.

К примеру, боль в груди, которая является базовым симптомом, на основании которого врач принимает решение о госпитализации, для ИИ могла оказаться не основным фактором риска сердечного заболевания. Хотя при традиционном обследовании для врача это важнейший симптом, равно как и характер боли.

По мнению ведущего автора исследования Томаса Хестона, проблема оценки сердечных рисков ChatGPT, вероятно, связана с уровнем случайности, встроенным в текущую версию бота. За счёт этого ИИ варьирует реакции для имитации естественного языка. Но эта же случайность плохо работает для медицинских целей, требующих единого, последовательного ответа.

При этим Хестон высказался, что считает ИИ полезным для медицинских обследований, в частности, ChatGPT. Учёный подчеркнул, что при дифференциальной диагностике бот отлично работал: на основе симптоматики врачи устанавливают единственно правильный диагноз.