Почему не стоит ставить диагноз с помощью ИИ

Главная проблема начинается еще до того, как искусственный интеллект сформулирует свой ответ.

Ветеринарный врач видит животное и получает гораздо больше информации, чем обычно передает ему владелец в сообщении.

Врач оценивает общее состояние пациента, температуру, частоту дыхания и пульс, состояние слизистых оболочек, степень обезвоживания, болезненность, реакцию на пальпацию, состояние кожи и шерсти, работу желудочно-кишечного тракта, мочеиспускание, неврологические признаки и множество других параметров.

Кроме того, врач задает дополнительные вопросы и может изменить направление диагностики уже после получения первых ответов.

ИИ этого не видит, если соответствующие данные ему не предоставлены.

Поэтому фраза «собака вялая, не ест и ее рвет» для человека и для врача означает совершенно разные объемы информации.

Для владельца это описание состояния.
Для врача — только начало диагностического поиска.

Одна из самых распространенных ошибок при использовании ИИ — считать, что чем подробнее написать промпт, тем точнее программа поставит диагноз.

Проблема в том, что владелец животного часто не знает, какие именно сведения имеют диагностическое значение.

Например, человек может написать:
«Кошка второй день плохо ест, много лежит и иногда ходит в лоток. Что это и чем лечить?»
На первый взгляд информации достаточно.

Но ветеринару потребуется уточнить гораздо больше: сколько кошке лет, когда она последний раз нормально ела, пьет ли она воду, мочится ли, каким объемом, как часто ходит в лоток, есть ли рвота, какой цвет слизистых, есть ли болезненность живота, повышена ли температура, были ли подобные эпизоды раньше, чем кормят животное, получало ли оно лекарства и многое другое.

Особенно важно, что некоторые симптомы владельцы могут описывать неточно.
«Кошка часто сидит в лотке» может означать запор, болезненное мочеиспускание или попытки помочиться при острой задержке мочи.
Для владельца это одно наблюдение.

Для ветеринарного врача — несколько принципиально разных диагностических направлений.
Если исходная информация неполная или неправильно интерпретирована, ИИ будет строить ответ уже на ошибочном основании.

Исследования применения ИИ в ветеринарии также указывают на проблему неполных и неоднозначных входных данных: многие системы предполагают наличие полноценной клинической информации, тогда как в реальной ситуации владелец часто сообщает только несколько заметных симптомов.

Даже если диагноз предположительно известен, лечение не сводится к названию препарата.
Необходимо учитывать вид животного, возраст, массу тела, состояние печени и почек, сопутствующие заболевания, другие принимаемые препараты, беременность и лактацию, возможные противопоказания и конкретную причину заболевания.

Особенно опасно самостоятельно рассчитывать дозировку.

Доза препарата зависит не только от массы тела.

У двух животных одинакового веса может быть совершенно разное состояние здоровья и разные противопоказания.

Кроме того, препарат, который применяется при одном заболевании, может оказаться бесполезным или даже опасным при другом состоянии с похожими симптомами.

Средства от блох и клещей, препараты против гельминтов и другие противопаразитарные средства тоже нельзя выбирать исключительно по совету искусственного интеллекта.
Для правильного подбора необходимо учитывать вид животного, его возраст, массу тела, состояние здоровья, наличие других препаратов и конкретный риск заражения.

Отдельное значение имеет форма препарата и действующее вещество.

Ошибка в выборе средства или дозировки может привести не к профилактике заболевания, а к нежелательной реакции.

Поэтому перед обработкой животного лучше уточнить препарат и схему применения у ветеринарного врача.

Иногда владельцу предлагают решить проблему иначе: «Просто правильно сформулируйте запрос».

Но здесь возникает принципиальная проблема.

Чтобы написать действительно качественный медицинский промпт, нужно уже понимать, какие параметры являются диагностически значимыми.

Человек, не имеющий ветеринарного образования, может не знать, необходимых для диагностики клинических признаков.

Он может не задать ключевой вопрос просто потому, что не знает о его значении.
Получается замкнутый круг: чтобы правильно спросить ИИ о заболевании, нужно понимать, какую медицинскую информацию необходимо собрать.

А сбор и интерпретация этой информации — часть работы ветеринарного врача.

У генеративного ИИ есть важная особенность: он умеет очень хорошо формулировать текст.
Ответ может быть структурированным, подробным и написанным уверенным медицинским языком.

Но качество формулировки не равно качеству диагноза.

В одном из современных исследований, посвященных оценке языковых моделей в ветеринарной клинической логике, эксперты отмечали, что хорошие формулировки могут создавать избыточную уверенность пользователя при наличии проблем с клиническим содержанием и выявляемых галлюцинаций.

Поэтому красивый медицинский текст нельзя воспринимать как доказательство правильности диагноза.

Это не означает, что искусственный интеллект вообще не нужен владельцам животных.
ИИ может быть полезен для того, чтобы простыми словами объяснить медицинский термин, подготовить вопросы к приему, помочь разобраться в назначениях врача, составить список симптомов, которые стоит сообщить специалисту, или помочь понять результаты уже проведенного обследования.

Но окончательное решение о диагнозе и лечении должно приниматься на основании полноценной ветеринарной оценки пациента.

Даже современные подходы к клиническим системам поддержки подчеркивают необходимость того, чтобы специалист мог самостоятельно оценить основания рекомендации, понимать ограничения системы и не передавать ей полностью свое клиническое решение.