Искусственный интеллект (ИИ) быстро внедряется в систему здравоохранения, поддерживая такие процессы, как диагностика с помощью изображений, клинические решения, коммуникации с пациентами и административные операции. Согласно данным Всемирного экономического форума, около 4,5 миллиарда человек по всему миру остаются без доступа к необходимой медицинской помощи, а дефицит медицинских кадров к 2030 году может составлять до 11 миллионов специалистов. Использование ИИ рассматривается как способ сокращения этого разрыва.
Обсуждение необходимости раскрытия информации о применении ИИ в медицине
По мере интеграции ИИ в медицинскую практику регуляторы сосредотачиваются на одном ключевом вопросе: должны ли пациенты быть информированы о том, когда в их уходе используется искусственный интеллект? В США отсутствует единый федеральный закон, который бы обязывал широко раскрывать использование ИИ в здравоохранении. Вместо этого регулирующие нормы формируются на уровне штатов. Некоторые штаты требуют прямого раскрытия информации, другие устанавливают ограничения на использование ИИ, обеспечивая косвенную прозрачность.
Законодательные инициативы и регулирование на уровне штатов
- Калифорния приняла закон AB 3030, требующий для клиник и врачебных офисов, использующих генеративный ИИ в коммуникациях с пациентами, размещать явное уведомление.
- Закон SB 1120 распространяется на медицинские страховые компании и страховщиков по инвалидности, требуя меры предосторожности при использовании ИИ для оценки необходимости лечения и обеспечивая участие лицензированных специалистов в принятии решений.
- В штате Колорадо закон SB 205 регулирует использование высокорискованных ИИ-систем, влияющих на отказ или одобрение медицинских услуг, требуя раскрытия использования ИИ и предотвращения дискриминации алгоритмами.
- В Юте законы HB 452, SB 149 и SB 226 требуют раскрывать использование ИИ в чатботах для психического здоровья и в профессиональной деятельности, включая медицинских работников.
Реакция и мнения сторон
Поддержка прозрачности и опасения
Многие эксперты считают, что прозрачность в применении ИИ — это вопрос доверия. Исследования показывают, что скрытие использования ИИ снижает уровень доверия пациентов, даже если результаты остаются точными. Как отмечает аналитическая компания CX Today, неполное раскрытие негативно влияет на отношения пациента с медицинской системой. Представители здравоохранения подчеркивают необходимость объяснять пациентам, как их данные используются, чтобы обеспечить информированное согласие и повысить вовлеченность.
Отрицание и критика
Некоторые представители индустрии отмечают, что чрезмерное регулирование может замедлить инновации и внедрение новых технологий. Однако, официальных подтверждений того, что существующие законы мешают развитию ИИ, не поступало. В частности, в рамках HIPAA принципы защиты данных применимы и к ИИ-системам, что уже обеспечивает определенную степень прозрачности.
Последствия для системы здравоохранения
Раскрытие использования ИИ в медицине способствует укреплению доверия, повышению ответственности и предотвращению юридических рисков для организаций. В будущем ожидается, что требования к прозрачности станут стандартом, а не исключением. Это также поможет пациентам лучше понимать процессы диагностики и лечения, что важно для их участия и информированности.
Дарья Тимошенко
Автор. Технологический обозреватель. Пишет о цифровых трендах, инновациях и гаджетах. Разбирает сложное просто, следит за будущим уже сегодня. Все посты