Программы-помощники в принятии клинических решений: проблемы и решения

Чуть больше года назад ChatGPT попала в общественный доступ. С того момента было создано многочисленное количество различных инструментов для клинического применения на основе искусственного интеллекта (ИИ) и больших языковых моделей (БЯМ).

В долгосрочной перспективе эти технологии смогут принципиально изменить многие области медицины от диагностических подходов до новых методов лечения. Уже сейчас большие языковые модели способны суммировать клиническую информацию (заметки, список препаратов и другие данные), однако эта задача является на такой простой, как может показаться на первый взгляд.

Наиболее простые инструменты, такие как распознавание речи в медицинских аудиозаписях, уже доступны в реальной практике. Более сложные задачи, например, суммирование информации о пациенте в электронных записях, пока находится на стадии разработки.

Одной из основных проблем (и в то же время преимуществом) в разработке инструментов на основе ИИ и БЯМ является низкий уровень регулирования их функционирования. Даже в США главный регулятор медицинской продукции, FDA (Управление по контролю качества пищевых продуктов и лекарственных средств), не способен полностью контролировать деятельность организаций, занимающихся разработкой медицинских программ на основе ИИ и БЯМ.

Суммирование информации с помощью БЯМ носит вероятностный характер, поскольку не существует единственно верного способа кратко передать большой объем клинической информации. При этом разная структура, размер, последовательность и формат в созданном «кратком содержании» могут повлиять на дальнейшие врачебные клинические решения.

Уникальные возможности больших языковых моделей могут принципиально улучшить организационные и клинические процессы в здравоохранении, но также несут в себе и уникальные риски. Дизайн подобных систем должен осуществляться в рамках системного и продуманного подхода, а их использование должно подвергаться подробному анализу эффективности, преимуществ и недостатков.