Guardrailed‑AMIE: многоагентная платформа Google для безопасного разговорного медицинского ИИ

Контекст и мотивация

Современные LLM решения для диагностики научились вести клинические диалоги собирать дифференциальные диагнозы и предлагать планы ведения в симулированных условиях. При этом окончательные диагнозы и рекомендации по лечению должны оставаться в ответственности лицензированных врачей. В клинической практике часто применяются иерархические модели надзора когда опытный врач проверяет и утверждает планы, подготовленные младшими специалистами. Поэтому медицинский ИИ требует моделей надзора, которые отражают эти протоколы безопасности.

Дизайн системы g-AMIE

Guardrailed-AMIE или g-AMIE это многоагентная архитектура разработанная командами Google DeepMind Google Research и Harvard Medical School. Система построена на Gemini 2.0 Flash и Articulate Medical Intelligence Explorer AMIE и разделяет сбор анамнеза и выдачу индивидуальных медицинских рекомендаций.

• Сбор данных с защитой: один агент ведет опрос пациента документирует симптомы и суммирует клинический контекст. Выделенный guardrail агент контролирует каждое сообщение чтобы предотвратить прямую выдачу диагнозов или рекомендаций пациенту.
• Генерация SOAP заметки: отдельный агент синтезирует структурированную SOAP заметку с использованием chain of thought рассуждений и ограниченного декодирования для повышения точности и согласованности.
• Врачебный интерфейс: лицензированные врачи просматривают редактируют и утверждают AI сгенерированную SOAP заметку и сообщения для пациента через интерактивный кокпит разработанный с участием клиницистов. Врачи могут вносить подробные правки давать обратную связь и решать принимать ли рекомендацию ИИ или запрашивать дообследование.

Разделение процессов позволяет асинхронный врачебный надзор повышая масштабируемость по сравнению с моделями требующими живого контроля.

Метод оценки

Авторы провели рандомизированный слепой виртуальный Objective Structured Clinical Examination OSCE. Важные элементы исследования:

• Сравниваемые группы: g-AMIE против ранних участковых врачей PCP и группы NP/PA все работали под одинаковыми ограничениями и находились под наблюдением старших врачей o-PCP.
• Набор сценариев: 60 вручную подготовленных клинических сценариев при участии актеров пациентов которые взаимодействовали с ИИ или живыми клиницистами.
• Рубрики и метрики: независимые врачи актеры пациентов и автоматические LLM авто‑рейтеры оценивали качество диалога полноту и точность SOAP заметок корректность диагноза и плана ведения а также опыт надзора.

Основные результаты

• Соблюдение ограничений и качество сбора данных: g-AMIE и группа NP/PA воздерживались от выдачи медицинских рекомендаций в более чем 90 процентах сценариев по сравнению с 71.7 процента для ранних PCP. g-AMIE выявлял больше критических симптомов обозначенных как red flag.
• Качество SOAP заметок: неотредактированные заметки g-AMIE превосходили контрольные группы по читаемости полноте и точности по оценкам клиницистов и авто‑рейтеров.
• Эффективность: время надзора за случаями g-AMIE было примерно на 40 процентов меньше чем при полном приеме PCP что свидетельствует о значительной экономии времени врачей.
• Точность диагноза и плана ведения: по данным авто‑рейтеров и независимой оценки врачей g-AMIE достиг 81.7 процента top 1 диагностической точности против 53.3 процента у ранних PCP и 63.3 процента у группы NP/PA.
• Опыт надзора: наблюдающие врачи оценили опыт работы с g-AMIE выше и предпочитали его случаи. Чаще всего правки касались сокращения излишней информации исправления вымыслов и добавления критических указаний. Правки улучшали качество диагностики у живых клиницистов но не всегда у g-AMIE.
• Предпочтения пациентов-актеров: симулированные пациенты предпочитали диалоги с g-AMIE по показателям эмпатии коммуникации и доверия.
• Эффективность NP/PA: группа NP/PA в некоторых задачах превосходила ранних PCP по соблюдению ограничений и сбору анамнеза возможно из за большей практики в протоколизированном приеме.

Практические выводы

Исследование показывает что асинхронный врачебный надзор с использованием структурированной многоагентной архитектуры и врачебного кокпита может повысить безопасность и эффективность текстовых диагностических консультаций. Системы подобные g-AMIE улучшают качество документации и облегчают рабочие процессы сохраняя при этом ответственность врачей. Для реального развертывания необходимы дополнительные клинические исследования и надежная подготовка пользователей однако предложенная парадигма является важным шагом к масштабируемому взаимодействию человека и ИИ в медицине.

Полный текст статьи доступен на https://arxiv.org/abs/2507.15743 и дополнительные материалы можно найти на соответствующем GitHub проекте и социальных каналах проекта если они доступны.