Врачи предупреждают об использовании ИИ среди своих пациентов: одна смерть, отсутствие медицинского осмотра и 50% неправильных ответов

Искусственный интеллект все чаще присутствует во всех областях медицины.

Эксперты признают его полезность как инструмента, но никогда как замену фигуры специалиста из-за отсутствия фундаментальных данных.

Дополнительная информация: Шведские ученые изобрели болезнь, но ИИ утверждает, что она реальна: необычный случай биксонимании

Пациент с лейкемией умер после того, как последовал ошибочному совету ИИ, проигнорировав лечение, рекомендованное его онкологом.

ИИ исказил выводы медицинских исследований, усилив ошибочные представления пациентов о своем заболевании.

Недавние исследования показывают, что медицинские чат-боты могут давать до 50% неправильных ответов и часто бывают слишком сговорчивы.

Эксперты предупреждают, что ИИ не может заменить личное медицинское обследование или заключение специалистов.

«Возможно, это сыграло странную роль в ускорении его смерти». Этой фразой Бенджамин Райли, поблагодарив за полученные соболезнования, начинает текст с убедительным названием «Роль ИИ в смерти моего отца [Джозефа]». Как рассказал его собственный сын, все началось, когда ему поставили диагноз хронический лимфоцитарный лейкоз(ХЛЛ).

Онколог рекомендовал ему начать лечение с комбинированной терапией, которая доказала свою эффективность как в увеличении продолжительности жизни, так и в уменьшении физических страданий.

Но он решил не начинать никакого лечения, потому что он был убежден, что страдает синдромом Рихтера, осложнением, которое редко встречается у пациентов с ХЛЛ, но является весьма серьезным. Он считал, что если продолжит лечение, его состояние ухудшится.

Бенджамин узнал об этом, несмотря на то, что потратил почти год на разговоры с ним о ненадежности ИИ, его отец именно пришел к такому выводу посредством поиска в Perplexity, одной из наиболее часто используемых поисковых систем искусственного интеллекта в последние годы.

Однако он предпочел сохранить свою позицию. Лишь несколько месяцев спустя он наконец согласился начать лечение, но к тому времени от него было мало толку: боль продолжалась, и он в конечном итоге умер.

Самодовольные и ошибочные ответы

Бенджамин не думает, что ИИ убил его отца, поскольку «в гипотетическом мире без него он в равной степени цеплялся бы за другие исследования, чтобы поддержать свое убеждение в отказе от медицинского лечения». Но он верит, что может усилить наши ошибочные убеждения.

«Если человек предрасположен искать ряд альтернативных объяснений, вполне вероятно, что ИИ подкрепит эти идеи», — соглашается Томас Паскуаль, член совета директоров SOLTI, медицинский онколог и заведующий отделением рака молочной железы и гинекологического рака в Больничной клинике Барселоны.

Утверждения обоих подтверждаются недавними исследованиями, в которых уже отмечено, что чат-боты сконструированы так, чтобы быть чрезмерно сговорчивыми, что может привести к тому, что они не будут рассматривать неудобные ответы.

В других случаях они даже предоставляют ложную информацию. Согласно работе, опубликованной ранее в этом году, самые надежные протестированные исследователями чат-ботов по-прежнему считали более 10% вымышленных утверждений правдивыми, в то время как в худшем случае почти половина ответов были неверными. Другое исследование также показало, что ИИ, когда ему представлены клинические случаи на основе исходной информации, имеет тенденцию делать преждевременные выводы и ошибается в 80% случаев.

И эти модели ИИ прибегают к престижным источникам, таким как специализированные журналы или собственные веб-сайты больниц, но они также консультируются на форумах и в социальных сетях. network.

Даже если он сможет предложить выводы, имеющие веское обоснование, они никогда не будут такими же полными, как выводы, сделанные на основе всей клинической информации, что подразумевает физическое обследование, которое ИИ не может провести сегодня.

Несмотря на наличие или отсутствие всей информации, ИИ всегда реагирует. Исследователи протестировали некоторые из наиболее часто используемых моделей, задав им 250 вопросов. Только двое из них отказались отвечать.

Один вопрос был связан с лучшими анаболическими стероидами для наращивания мышечной массы, и ответ заключался в том, что ИИ не может предоставить информацию об употреблении запрещенных психоактивных веществ. Другой был посвящен методам лечения, альтернативным химиотерапии, и ИИ предложил собеседнику проконсультироваться с врачом.