Что доверить нейросети, а что нельзя: граница для врача

Главный страх коллег: «если я начну пользоваться нейросетью, я как будто перекладываю на неё лечение». Нет. Вы перекладываете на неё писанину вокруг лечения. Это две очень разные вещи, и вся суть - в границе между ними.

Граница проходит по одному вопросу: кто подписывается под результатом? Если под текстом или решением в итоге стоит ваша фамилия и ваша ответственность - значит, последнее слово ваше. Нейросеть может сколько угодно готовить, предлагать, раскладывать по полочкам. Но подпись - ваша.

Какие задачи врач может отдать нейросети

Делегируемая задача - это любая, где результат успевает пройти через ваши глаза до применения. У врача таких 6 типов: черновики текстов, перевод, разбор и структурирование, ресёрч по источникам, рутина оформления и генерация идей. На всех шести нейросеть экономит часы и почти ничем не рискует.

• Черновики текстов. Памятки пациентам, письма, посты, ответы на типовые вопросы. Модель даёт болванку, вы доводите.
• Перевод. Статья, инструкция, абстракт исследования на английском - за пару секунд на русском. Я сам бывший медицинский переводчик и скажу: для черновика перевода это отличный инструмент.
• Разбор и структурирование. Кинули простыню текста - получили выжимку, таблицу, список главного. Длинный документ становится читаемым за минуту.
• Ресёрч по источникам. Найти, с чего начать копать, какие термины гуглить, какие гайдлайны существуют. С обязательной проверкой найденного - но как стартовая точка незаменимо.
• Рутина оформления. Переписать в нужном тоне, разбить на пункты, сделать короче, причесать формулировки. Полный список того, на чём нейросеть экономит врачу время, - отдельно.
• Идеи. Мозговой штурм, варианты заголовков, угол подачи. Десять идей за минуту, из которых одна вам подойдёт.

Что врач не отдаёт нейросети никогда

Неделегируемая задача - это та, где ошибка попадает сразу к пациенту. У врача таких зон 4: постановка диагноза, выбор дозировки, финальное клиническое решение и ответственность. Дело не в том, что модель «глупая», а в цене ошибки: здесь она измеряется не переписанным абзацем, а человеком.

• Постановка диагноза. Модель не видела пациента, не пальпировала, не держала снимок в руках. Она достраивает правдоподобное - а в диагнозе правдоподобное и верное не одно и то же.
• Выбор дозировки. Самое опасное, что можно отдать - и отдельный разбор про проверку лекарственных взаимодействий объясняет, почему. Дозировка, которая «звучит разумно», и дозировка правильная - разные вещи. Проверяете и назначаете вы.
• Финальное клиническое решение. Лечить так или иначе, резать или ждать - это ваша зона. Нейросеть может подкинуть аргументы за и против. Решение принимаете вы.
• Ответственность. Её вообще нельзя делегировать технически. Перед пациентом, перед законом, перед собой отвечаете вы. Нейросеть в суд не вызовешь.

Что отличает делегируемое от неделегируемого

Граница между двумя колонками проходит по 1 признаку: успевает ли результат пройти через ваши глаза. Слева - всё, что вы прочитаете и поправите до того, как оно куда-то уйдёт: черновик памятки можно переписать, перевод перечитать, выжимку сверить с оригиналом. Справа - всё, где ошибка попадает сразу к пациенту, и второго шанса посмотреть уже нет.

Поэтому на делегируемость проверяют не сложность задачи, а её последствия. Сложный разбор литературы отдаётся спокойно. Простая на вид фраза «поставь дозировку» - нет, хотя модель ответит на неё быстрее и увереннее, чем на разбор.

Можно ли просить модель взвесить две тактики лечения

Серая зона - это задачи, которые готовят клиническое решение, но сами решением не являются. Самый частый случай: попросить модель разложить плюсы и минусы 2 тактик лечения. Так можно, и это полезно. Дальше начинается разница, которую надо держать в голове.

Модель раскладывает варианты, а взвешиваете и выбираете вы. Она не знает вашего пациента, его историю, его кошелёк и его страхи. Она даёт структуру для размышления, а не само решение. Как ассистент, который принёс вам карту и разложил снимки на столе - дальше думаете вы.

То же с дозировками и нормативкой в серой зоне: пусть модель напомнит, где искать, какой документ смотреть, какие термины гуглить. Но финальную цифру и финальную формулировку вы берёте из первоисточника и проверяете сами. Помощник доводит вас до двери - входите вы.

Принцип, из которого выводится всё остальное

Весь разбор сворачивается в одну формулу: нейросеть готовит черновик и экономит время - решает и отвечает врач.

Всё остальное - частные случаи этого правила. Сомневаетесь, можно ли что-то отдать? Спросите себя: это черновик, который я ещё прочитаю, - или это решение, которое уйдёт прямо к пациенту? В первом случае отдавайте смело. Во втором - даже не думайте.

И да, встречное возражение: «а вдруг я разленюсь и перестану думать сам?». Риск есть. Но он есть и без всякой нейросети - 10 лет на автопилоте без сверки с данными отупляют не хуже. Инструмент не думает за вас. Он расчищает время, чтобы вы думали о важном, а не о том, как переформулировать пятую памятку за день.

Почему помощник без права подписи - это нормально

Помощник без права подписи - это обычная для медицины конструкция, а не изобретение эпохи нейросетей. Тут полезно вспомнить, как мы вообще работаем с помощниками. Ассистент готовит кабинет, медсестра подаёт инструмент, лаборатория делает анализ - и это не значит, что лечите не вы. Вы остаётесь тем, кто принимает решение и отвечает за исход. Нейросеть просто ещё один помощник в этом ряду: толковый, быстрый, без выходных - и без права подписи. Перекладывать на неё рутину так же нормально, как поручить медсестре подготовить лоток. Перекладывать диагноз - так же дико, как позволить лотку решать, что вы будете делать с пациентом.

От чего зависит граница на самом деле

Граница зависит не от того, насколько умна модель, а от того, кто несёт последствия. Модель может стать вдвое точнее - и ни одна из 4 неделегируемых зон от этого не сдвинется, потому что отвечать перед пациентом всё равно будет врач.

Граница не в том, насколько умна модель. Она в том, кто несёт последствия. А последствия несёте вы - значит, и руль ваш.

Я отдаю нейросети всю писанину, которую раньше ненавидел. А диагнозы по-прежнему ставлю сам - микроскоп за три миллиона себе так и не купил, но соображалку пока никому не делегировал. И вам не советую)