В СПЧ заявили, что советоваться с ИИ по вопросам здоровья опасно
Советоваться с ИИ по жизненно важным вопросам может быть опасно для жизни, заявила член СПЧ, врач Ольга Демичева. Она ссылается на статью в британской газете The Guardian о том, что, как выяснилось, ИИ давал вредные диетические рекомендации для больных онкологией и неверно интерпретировал результаты анализов. А после этого Google удалил ряд медицинских рекомендаций, сгенерированных его сервисом AI Overviews.
А недавно OpenAI представила специальный раздел внутри ChatGPT, предназначенный для консультации по медицинским вопросам. Это объясняется тем, что одной из самых популярных тем при обращении к чат-боту является медицина. Не имея возможностей получить квалифицированную консультацию врача, люди обращаются к ИИ. По данным OpenAI, еженедельно вопросы о здоровье ChatGPT задают более 230 миллионов человек по всему миру, что составляет более 5% всех запросов.
Демичева напоминает, что медицина - это наука, причем наука консервативная. А ИИ - это всего лишь программа, которую пишут люди, а не врачи. У нее нет способности мыслить, тем более клинически. Медицина включает в себя как раз способность интегрально мыслить на основе специальных знаний и компетенций.
Специалист в области ИИ, член СПЧ Игорь Ашманов говорит, что ИИ просто генерирует тексты на базе других текстов, никакой мысли там нет и быть не может, рассчитывать на это глупо. А если внедрять ИИ в медицину, то это приведет только к потере квалификации врачей, потому что самым легким и безопасным вариантом для них будет просто соглашаться с решением ИИ.