Введение: зачем врачу разбираться в искусственном интеллекте
Современная медицина всё активнее использует технологии искусственного интеллекта (ИИ). Для врача, проходящего непрерывное медицинское образование (НМО), понимание базовых принципов работы ИИ, нейросетей и систем поддержки принятия врачебных решений (СППВР) становится не просто полезным, а необходимым. Это позволяет не только успешно сдавать тесты, но и критически оценивать новые инструменты, которые постепенно входят в клиническую практику.
В данной статье мы разберём ключевые понятия: что такое искусственный интеллект, машинное и глубокое обучение, нейронные сети, компьютерное зрение. Также рассмотрим, как эти технологии применяются в урологии и других областях, какие у них есть ограничения и как регулируется их использование в России. Материал подготовлен на основе типовых вопросов тестов НМО и поможет систематизировать знания.
Искусственный интеллект: определение и исторический контекст
Искусственный интеллект — это комплекс технологических решений, позволяющий имитировать когнитивные функции человека, такие как логическое мышление, обучение и запоминание. В современном понимании концепция ИИ сформировалась в XX веке, хотя отдельные идеи высказывались и раньше.
Важно различать два уровня ИИ:
- Слабый ИИ — решает конкретные, узкие задачи на основе данных, часто без участия человека (например, распознавание изображений).
- Сильный ИИ — гипотетическая система, способная решать любые интеллектуальные задачи, включая новые и творческие. Пока сильный ИИ остаётся философской концепцией, а все реальные медицинские приложения относятся к слабому ИИ.
В России базовые принципы развития ИИ закреплены в Указе Президента РФ от 10.10.2019 № 490. Среди ключевых принципов — безопасность продуктов, понятность принимаемых решений и поддержка конкуренции.
Машинное обучение и глубокое обучение: в чём разница
Машинное обучение (МО) — это ветвь ИИ, в которой программа способна самосовершенствоваться в одном или нескольких аспектах без прямого программирования каждого шага. Основные функции МО включают классификацию, регрессию и кластеризацию.
Глубокое обучение (ГО) — это подвид машинного обучения, построенный на технологии нейронных сетей. Оно использует многослойные архитектуры для обработки данных. Типичные особенности программ ГО:
- Способность обучаться самостоятельно (но с контролем оператора на этапе подготовки данных).
- Использование нейросетевых технологий.
- Потребность в больших объёмах размеченных данных для тренировки.
- Проблема «чёрного ящика» — неочевидность выявляемых закономерностей для стороннего наблюдателя.
Ключевое отличие: для машинного обучения (классического) почти всегда требуется оператор для разметки данных и контроля результатов, тогда как глубокое обучение может выявлять сложные паттерны без явного указания признаков, но ценой большего объёма данных и вычислительных ресурсов.
Нейронные сети: архитектура и виды
Нейронные сети — это ветвь ИИ, в которой логика работы программы строится по аналогии с нервной системой человека, то есть через цепочки узкоспециализированных искусственных нейронов. Основные типы нейросетей, используемые в медицине:
- Свёрточные нейронные сети (CNN) — лежат в основе компьютерного зрения. Они состоят из свёрточного, группирующего (пулинг) и классифицирующего слоёв. Рекуррентный слой к ним не относится.
- Рекуррентные нейронные сети (RNN) — также называются трансформерами. Применяются для работы с последовательными данными, например, для написания текста или анализа временных рядов. По мере расширения тренировочных баз в RNN невозможно перейти с глубокого обучения на машинное — это разные уровни.
Понимание архитектуры помогает врачу оценить, для каких задач подходит конкретная нейросеть: для анализа изображений (CNN) или для работы с текстом (RNN/трансформеры).
Компьютерное зрение: возможности и применение в урологии
Компьютерное зрение — это область ИИ, связанная с анализом изображений и видео. В основе компьютерного зрения лежат свёрточные нейронные сети. Основные функциональные задачи: классификация, локализация и сегментация объектов на изображении.
В медицине компьютерное зрение применяется для:
- Обработки снимков низкого качества (удаление шума, повышение контрастности).
- Количественной оценки анатомических образований.
- Выделения зон интереса, включая патологические участки.
- Предварительной разметки изображений и самостоятельного анализа.
В урологии компьютерное зрение помогает анализировать КТ и МРТ изображения, гистологические препараты. Однако оно не применяется для разметки и интерпретации температуры тела пациента — это задача других методов. Важно помнить, что компьютерное зрение не предназначено для прямой коммуникации с пациентом.
Системы поддержки принятия врачебных решений (СППВР)
СППВР — это программное обеспечение, которое путём интерпретации собираемой информации поддерживает принятие врачом решения на всех этапах лечебно-диагностического процесса. В основе таких систем лежит база клинических рекомендаций, а не просто нейросети.
СППВР функционируют на основе медицинской информации в электронном виде, формируемой и обрабатываемой в ЕГИСЗ, государственных информационных системах здравоохранения субъектов РФ и медицинских информационных системах организаций.
Ограничения СППВР:
- Узкий спектр применения (система работает только в рамках заложенных алгоритмов).
- Отсутствие клинического мышления у программы.
- Требовательность к качеству формулировок вводимых данных.
Несмотря на это, СППВР могут предоставлять врачу второе или третье мнение, что особенно ценно в сложных диагностических случаях.
Проблема «чёрного ящика» и искусственные галлюцинации
Одна из главных проблем глубокого обучения — «чёрный ящик»: даже разработчики не всегда могут объяснить, как нейросеть пришла к конкретному выводу. В основе этой проблемы лежат:
- Вероятностный принцип выдачи результата.
- Архитектура нейросети (множество скрытых слоёв).
- Множественность циклов обработки информации.
Неточный или сложный запрос не является причиной проблемы «чёрного ящика» — это скорее ошибка пользователя.
Другая проблема — искусственные галлюцинации языковых моделей. Они возникают из-за:
- Принципа работы ИИ, где приоритет задачи (например, закончить предложение) ставится выше точности.
- Поверхностной оценки информации.
- Отсутствия критического мышления у нейросети.
Низкое качество работы оператора при разметке данных тоже может влиять, но это внешний фактор, а не внутренняя причина галлюцинаций.
Регулирование и вывод на рынок медицинских ИИ-продуктов в России
В России медицинские изделия, включая программное обеспечение на основе ИИ, регулируются Федеральным законом № 323-ФЗ «Об основах охраны здоровья граждан». Специальное программное обеспечение признаётся медицинским изделием, если оно предназначено для диагностики, мониторинга состояния организма, диспансерного наблюдения или проведения медицинских исследований.
Основные направления регулирования:
- Нормативно-правовое.
- Этическое.
- Техническое.
Вывод ИИ-продукта на рынок включает несколько циклов: разработка прототипа (MVP), проверка в реальной клинической практике, техническая документация, экспертиза, клинические исследования, публикации в рецензируемой литературе и мониторинг безопасности.
Доказательство эффективности требует клинических исследований, проверки продукта экспертами и публикаций. Мониторинг безопасности включает отчёт опытной эксплуатации, а не рекламу.
Средствами преодоления недостатков нейросетей являются межуниверситетская и международная кооперация, формирование больших сетевых хранилищ информации и сбор Big Data. Сужение рынка нейросетевых технологий, наоборот, не помогает.
Практические рекомендации для подготовки к тестам НМО
На основе разобранных вопросов можно выделить несколько ключевых моментов, которые часто встречаются в тестах:
- Языковые модели в медицине НЕ применяются для анализа КТ и МРТ изображений — это задача компьютерного зрения.
- Компьютерное зрение НЕ применяется для разметки температуры тела.
- Глубокое обучение — подвид машинного обучения, а не отдельная ветвь ИИ.
- Нейронные сети — это ветвь ИИ, построенная по аналогии с нервной системой.
- Рекуррентные нейронные сети также называются трансформерами и применяются для написания текста.
- Проблема «чёрного ящика» — типичный недостаток глубокого обучения, а не машинного обучения в целом.
- СППВР основаны на базе клинических рекомендаций, а не на нейросетях.
- Нельзя поручать ИИ задачи, по которым данные представлены нерелевантной выборкой.
- Базовые принципы развития ИИ в России включают безопасность и понятность решений, но исключают непонятные программные продукты.
- Цифровая трансформация включает сбор данных, ревизию метрик и создание новых процессов, но не сводится только к сбору.
Запоминание этих нюансов поможет уверенно отвечать на вопросы и избегать типичных ошибок.
Вопросы и ответы
В чём разница между машинным обучением и глубоким обучением?
Машинное обучение — это более широкая ветвь ИИ, где программа самосовершенствуется на основе данных, часто с участием оператора для разметки. Глубокое обучение — это подвид машинного обучения, использующий многослойные нейронные сети. Оно способно самостоятельно выявлять сложные закономерности, но требует больших объёмов данных и страдает от проблемы «чёрного ящика».
Какие нейросети используются для компьютерного зрения в медицине?
Для компьютерного зрения применяются свёрточные нейронные сети (CNN). Они состоят из свёрточного, группирующего и классифицирующего слоёв. Рекуррентные нейронные сети (RNN) для этой цели не используются — они предназначены для работы с последовательными данными, например, текстом.
Почему возникает проблема «чёрного ящика» в нейросетях?
Проблема «чёрного ящика» связана с вероятностным принципом выдачи результата, сложной архитектурой нейросети и множественностью циклов обработки информации. Из-за этого даже разработчики не всегда могут объяснить, как именно сеть пришла к конкретному выводу. Неточный запрос пользователя не является причиной этой проблемы.
Какие ограничения есть у систем поддержки принятия врачебных решений?
СППВР имеют узкий спектр применения, у них отсутствует клиническое мышление, и они требовательны к качеству формулировок вводимых данных. Однако они могут предоставлять врачу второе или третье мнение, что полезно в сложных случаях.
Какие задачи не стоит поручать искусственному интеллекту в медицине?
Не стоит поручать ИИ задачи, по которым данные представлены нерелевантной выборкой. Также ИИ не подходит для задач, требующих настоящего понимания контекста или критического мышления, — например, для прямой коммуникации с пациентом или интерпретации температуры тела.
Как регулируется применение ИИ в здравоохранении России?
Основные документы: Указ Президента РФ № 490 (стратегия развития ИИ) и Федеральный закон № 323-ФЗ (регулирование медицинских изделий). Программное обеспечение на основе ИИ признаётся медицинским изделием, если оно используется для диагностики, мониторинга или лечения. Вывод на рынок включает несколько этапов: от прототипа до клинических испытаний и мониторинга безопасности.
Что такое искусственные галлюцинации языковых моделей и почему они возникают?
Искусственные галлюцинации — это генерация моделью правдоподобной, но фактически неверной информации. Они возникают из-за приоритета задачи над точностью, поверхностной оценки данных и отсутствия у нейросети критического мышления. Низкое качество разметки данных оператором может усугублять проблему, но не является её первопричиной.