Об этических принципах применения ИИ в медицине

Медицина – одна из областей деятельности, в которой работа над ИИ и его применением ведется наиболее планомерно и целенаправленно. Этим, в том числе, обусловлены заявленные на круглом столе в рамках Глобальной недели здравоохранения в Абу-Даби первым заместителем министра здравоохранения РФ Владимиром Зеленским результаты:

"Внедрение систем с ИИ уже сегодня позволяет анализировать более 6 400 тыс. медицинских исследований в месяц, сократив время диагностики на 30-40% и повысив показатели выявления патологии на 15-20%.

В 2024 году мы внедрили скрининговую маммографию с использованием искусственного интеллекта в систему обязательного медицинского страхования.

Что важно - мы внедряем технологии искусственного интеллекта не только в качестве медицинских изделий, мы массово используем чат-боты для организации визитов к врачу, распознавания голоса и анализа неструктурированных текстов медицинских карт. Также мы развиваем чат-боты для поддержки здорового образа жизни".

источник

Лидируя в области применения ИИ, отрасль задает определенные ориентиры для участников и заинтересантов развития ИИ в целом. Одним из важнейших элементов в этом стали сформулированные этические принципы применения ИИ в медицине, на которых остановимся более подробно.

Протоколом заочного голосования от 14.02.2025 № 90/18-0/117 Межведомственной рабочей группы при Министерстве здравоохранения Российской Федерации по вопросам создания, развития и внедрения в клиническую практику медицинских изделий и сервисов с использованием технологий искусственного интеллекта была утверждена версия 2.1 документа под названием «Кодекс этики применения искусственного интеллекта в сфере охраны здоровья». Документ размещен на портале оперативного взаимодействия участников Единой государственной системы в сфере здравоохранения (ЕГИСЗ).

Вводная часть документа задает общие ограничения в области применения, определяет цели и задачи.

Кодекс этики применения искусственного интеллекта в сфере охраны здоровья (далее – Кодекс) – это набор принципов и рекомендаций, предлагаемых Министерством здравоохранения Российской Федерации совместно с главными внештатными специалистами Минздрава России и направленных на определение этических норм использования искусственного интеллекта (далее – ИИ).

То есть речь идет о принципах и рекомендациях, предлагаемых Минздравом. То есть обязательность соблюдения - изначально документом не обозначена.

Положения настоящего Кодекса рассчитаны на системы искусственного интеллекта, применяемые исключительно в сфере охраны здоровья граждан при оказании медицинской помощи в части профилактики, диагностики, лечения и иных действий в сфере здравоохранения Российской Федерации.

Оговаривается область применения Кодекса – исключительно сфера охраны здоровья. При этом сделана оговорка о возможности дополнительного развития и конкретизации изложенных положений по мере развития технологий и по прочим причинам.

Целью Кодекса является этичное, безопасное и эффективное развитие и использование ИИ на благо общества, развитие здравоохранения, а также предотвращение применения ИИ во вред в настоящем и будущем, с гармонизацией Кодекса с международными соглашениями и международным правом.

Основными целями обозначены соблюдение этики и безопасности применения ИИ. Гармонизация с международными соглашениями и международным правом, вынесенные в цели – в современных условиях, на мой взгляд, несколько неуместно. Но авторы видят так.

Основными задачами Кодекса являются:

- Определение прав и обязанностей субъектов ИИ.

- Определение механизмов регулирования применения Кодекса.

То есть документ, в целом – о правах, обязанностях и механизмах регулирования (читай – контроля соблюдения) применения Кодекса.

В документе приводятся ряд определений, наиболее интересными из которых являются:

Искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.

[Указ Президента Российской Федерации от 10.10.19 N 490 "О развитии искусственного интеллекта в Российской Федерации"]

Система искусственного интеллекта (СИИ) (Artificial Intelligence System): техническая система обработки информации, обладающая искусственным интеллектом (например, см. ПНСТ 553-2021 (ISO/IEC DIS 22989, NEQ), ГОСТ Р 59276-2020). Программное обеспечение, в котором используются технологические решения искусственного интеллекта.

[ГОСТ Р 59921.6-2021, пункт 3.10]

Субъекты СИИ - Лица, принимающие участие в жизненном цикле СИИ при его реализации на территории Российской Федерации или лица, находящиеся на территории Российской Федерации, в отношении которых применяется СИИ, включая предоставление товаров и оказание услуг. К таким лицам относятся в том числе: разработчики, производители, уполномоченные представители производителей, заказчики, владельцы, операторы и поставщики данных, пользователи, лица, принимающие участие в регуляторном воздействии на сферу ИИ, в том числе разработчики нормативно-технических документов, руководств, различных регуляторных положений, требований и стандартов в области ИИ (регулятор), иные лица, действия которых потенциально могут повлиять на результаты действий СИИ или лиц, принимающих решения с использованием СИИ.

Два первых определения носят ссылочный характер (то есть – в Кодексе калька из Указа Президента РФ и из ГОСТ Р соответственно). А вот третье – наиболее интересно, поскольку именно оно вводит понятие «субъектов СИИ», обозначение прав и обязанностей которых – основная задача документа.

Для исключения недопонимания, авторы детализируют перечень субъектов.

В рамках настоящего Кодекса под Субъектами СИИ понимается круг лиц, принимающих участие в жизненном цикле СИИ при его реализации на территории Российской Федерации или лица, в отношении которых применяются СИИ, находящиеся на территории Российской Федерации, включая предоставление товаров и оказание услуг. Это могут быть физические лица и юридические лица, в том числе:

- физические лица, в том числе пациенты;

- некоммерческие организации и профильные профессиональные сообщества;

- медицинские организации всех форм собственности и подчиненности;

- образовательные учреждения, в том числе в сфере здравоохранения;

- компании разработчики, производители, уполномоченные представители производителей, операторы и владельцы ИИ;

- органы управления здравоохранением;

- независимые (локальные) этические комитеты.

Охват широкий, наиболее важные, на наш взгляд, выделены. Потому как – именно они являются носителями ключевых ролей в области применения СИИ, перечисляемых авторами документа.

- Разработчик - физическое или юридическое лицо, создающее, обучающее, тестирующее модели/системы ИИ и разрабатывающее, реализующее такие модели/системы, программные и/или аппаратные комплексы и принимающее на себя ответственность в отношении их конструкции;

Обратим внимание – на первом месте стоит разработчик. Важно, что в отличие от традиционного понимания функции разработчика, здесь сразу и явно обозначается его ответственность за создаваемую СИИ.

- Заказчик и/или Владелец - физическое или юридическое лицо или организация, получающие продукт или услугу (СИИ);

Тут пока – выглядит несколько странно. В части «получающие» - вроде как – не совсем удачное слово.

- Пользователь - физическое или юридическое лицо, на законном основании использующее СИИ по назначению и в соответствии с техническими характеристиками и непосредственно реализующее решение прикладных задач с использованием СИИ;

Всё стандартно, но дополнительный акцент на законность.

- Оператор - физическое или юридическое лицо, обеспечивающее работу СИИ в соответствии с заявленными параметрами;

Тоже стандартно. Кстати, здесь явное упоминание какой-либо ответственности отсутствует.

- Регулятор - юридическое лицо, принимающее участие в регуляторном воздействии на сферу ИИ, в том числе разработчики нормативно-технических документов, руководств, различных регуляторных положений, требований и стандартов в области применения СИИ в здравоохранении;

Стандартно. Явного упоминания ответственности нет.

- Иные лица, действия которых потенциально могут повлиять на результаты действий СИИ или лиц, принимающих решения с использованием СИИ.

Всё, что не вошло в перечисленные выше роли, но вдруг проявится.

Обобщенные требования к ролям – изложены абстрактно-высокоуровнево:

Субъекты СИИ в соответствии со своей ролью обеспечивают:

- проектирование, разработку, апробацию, экспертизу и эксплуатацию СИИ в соответствии с законодательством и принятыми стандартами;

- сбор, обработку и использование данных в соответствии с законодательством;

- надежные меры защиты и конфиденциальности данных, включая анонимизацию данных, шифрование и строгий контроль доступа;

- обеспечение защиты прав и благополучия субъектов исследования (субъектов СИИ);

- контроль над использованием данных и функционированием СИИ;

- информирование о правилах обеспечения безопасности.

В общем – за всё хорошее и против всего плохого.

Ну и – собственно принципы. Их всего 8.

2.1 Ограниченная автономность

Автономность СИИ в здравоохранении ограничена и обратима.

Обеспечить требуемые параметры автономности должны разработчики СИИ в рамках своей роли на соответствующем этапе жизненного цикла СИИ.

Субъекты СИИ обеспечивают комплексный контроль над СИИ в объеме и порядке, зависящем от целей, задач и этапа жизненного цикла СИИ.

Все решения СИИ (при необходимости) должны быть проверены и одобрены субъектом ИИ с соответствующей ролью.

СИИ должны позволять субъектам СИИ с соответствующей ролью:

- Проверять и/или санкционировать автоматизированные решения.

- Отказаться от автоматизированных решений.

- Изменять предложенные СИИ решения.

Это ключевой принцип. Под автономностью в данном случае понимается самостоятельность СИИ с точки зрения принятия того или иного решения. Изложенные пункты означают, что:

·  ни о какой полной самостоятельности речи не идет; возможности самостоятельных решений СИИ – всегда ограничены;

·  соблюдение параметров (то есть – рамок) автономности - должно быть обеспечено разработчиками;

·  СИИ всегда должна оставаться под комплексным контролем со стороны субъектов СИИ;

·  все решения СИИ – должны быть проверены и одобрены субъектом СИИ (что при этом означает оговорка «при необходимости» - не совсем понятно);

·  СИИ должны быть спроектированы и реализованы таким образом, чтобы субъекты СИИ всегда было доступно выполнение следующих действий: проверка и/или согласование решений СИИ; отказ от решений СИИ; изменение решений, предлагаемых СИИ.

2.2 Прозрачность и объяснимость

СИИ должны проектироваться и разрабатываться с ориентацией на понятность и объяснимость результатов функционирования, кроме того, разработчик и/или производитель обязан обеспечить доступность информации о применяемых в СИИ алгоритмах работы ИИ, что повышает уровень защищенности пользователя и доверия к СИИ.

Ещё один ключевой момент. Вероятно, будут попытки разного толкования данного принципа, но прямое его прочтение означает, что фраза «мы не понимаем, почему ИИ выбрал этот вариант решения» - становится вне закона. Ибо русским – по белому сказано: объяснимость результатов функционирования. Аналогично – лесом идут все «самосовершенствующиеся алгоритмы, которые невозможно объяснить».

2.3 Конфиденциальность данных и безопасность пациентов

В соответствии с законодательством субъекты СИИ должны обеспечивать конфиденциальность данных и безопасность пациентов на всех этапах жизненного цикла СИИ.

Неисполнение законодательства Российской Федерации в части обеспечения конфиденциальности данных, повлекших за собой причинение вреда здоровью и/или риск разглашения сведений, составляющих врачебную тайну, в результате применения СИИ (в том числе по причине применения СИИ не в соответствии с заявленными характеристиками), ведет к возникновению ответственности в соответствии с законодательством.

Пункт формальный. Но в виду особенностей отношения к медицинским данным физлиц – нисколько не лишний.

2.4 Справедливость и равенство доступа

Права всех субъектов СИИ, включая пациентов и представителей социально уязвимых групп населения (как субъектов СИИ), должны быть защищены и учтены при разработке и применении СИИ в соответствии с требованиями законодательства. Применение СИИ не должно приводить к стигматизации и дискриминации субъектов СИИ из-за их состояния здоровья, пола, возраста, национальности или иных характеристик. Все субъекты СИИ должны иметь равный доступ к СИИ с учетом целей и задач, решаемых СИИ.

Это – вроде как – на перспективу. Чтобы даже мыслей строить здравоохранение на принципах сегрегации не возникало.

2.5 Научное партнерство и профессиональная ответственность

Субъекты СИИ должны развивать и поддерживать научное партнерство, в том числе в рамках сотрудничества с международными организациями и научными центрами государств-участников Договора о создании Союзного государства и Договора о Евразийском экономическом союзе, обеспечивать соблюдение принципов профессиональной ответственности.

Субъекты СИИ, принимающие участие в создании, апробации, экспертизе, эксплуатации контроле СИИ, должны руководствоваться научной добросовестностью, приверженностью открытому исследованию и междисциплинарному сотрудничеству, а также выдерживать высокие стандарты профессионализма, осознавая свою возможность влиять на общество и будущее технологии.

Реверанс в сторону партнеров и принципов научной добросовестности.

2.6 Информирование

Субъекты СИИ в рамках своей роли должны обеспечивать максимальную прозрачность и правдивость в информировании об уровне развития СИИ, их возможностях и рисках, предоставлять достоверную информацию о допустимых областях применения, эффективных методах использования, потенциальном вреде, пользе и существующих ограничениях СИИ.

Все субъекты СИИ должны увеличивать уровень осведомленности общества о СИИ, проводя и/или принимая участие мероприятиях по повышению доверия и информированности: разработка научных и публицистических материалов, организация конференций и семинаров, а также включение правил этического поведения в правила эксплуатации СИИ.

Логичное продолжение предыдущего принципа в части обеспечения доступности обнаруженной при разработке информации, как позитивной, так и негативной.

2.7 Проведение этической экспертизы и апробации СИИ

Проведение этической экспертизы и апробации СИИ определены законодательством Российской Федерации.

Интересный пункт. Отсылка к законодательству, без какой-либо конкретики. На текущий момент у ТС нет информации о наличии и/или ведении разработки соответствующих законопроектов.

2.8 Контроль

Применение СИИ в сфере охраны здоровья граждан подотчетны и контролируемы.

Субъекты ИИ в соответствии с их ролью должны обеспечивать надлежащий контроль за применением СИИ. Для каждого из этапов жизненного цикла СИИ должны быть определены Субъекты ИИ, принимающие на себя ответственность за воздействие СИИ на заинтересованные стороны, общество.

При кажущейся традиционности, принцип требует явного определения ответственных на каждом этапе жизненного цикла СИИ. Следование этому совместно с требованиями принципа 2.1 приводит к формированию жестких и прозрачных рамок ответственности за создание и использование СИИ.