Global Life Sciences AI · Опубликовано 16 ноября 2026 г. · HERMS Consultancy DMCC
Откройте для себя платформу HERMS Life Sciences и наш опыт регуляторных дел.
Управление ИИ в науках о жизни — это операционная модель, которая определяет, какие системы могут быть использованы, какие доказательства им требуются, кто утверждает последовательные решения и как сдерживаются неудачи. Практическая структура связывает подотчетную собственность, классификацию рисков, контроль данных, валидацию, человеческий надзор и мониторинг жизненного цикла, а не просто политику этики.
Управление начинается с подотчетного решения
Фармацевтической компании требуется нечто большее, чем утвержденный список инструментов ИИ. Ему нужен задокументированный способ решить, подходит ли конкретная конфигурация для конкретной деятельности, и может ли организация продолжать полагаться на нее после изменения данных, моделей или рабочих процессов.
Релевантный вопрос: «Соответствует ли эта модель?» Это: «Может ли эта система, действуя в этих границах, поддерживать это решение с приемлемым и очевидным риском?» В рамках проекта FDA также подчеркивается достоверность модели для определенного контекста использования, в то время как принятый EMA рефлексивный документ посвящен ИИ на протяжении всего жизненного цикла лекарственного средства. Ни один из них не обеспечивает полное принятие архитектуры ИИ или поставщика. Проект руководства по медикаментозному/биологическому искусству ИИ EMA AI медицинский продукт жизненный цикл отражения бумаги
Таким образом, реализуемая структура фармацевтического управления ИИ соединяет три записи:
- Определяющая цель, собственник и ограничения.
- Записи об гарантии, документирующие риски, контроль и подтверждающие доказательства.
- Оперативная запись, показывающая утверждения, изменения, мониторинг и инциденты.
Ниже приведена предлагаемая организационная модель. Его уровни, комитеты и ворота утверждения являются рекомендациями, а не универсально предписанными нормативными структурами.
Определите область действия перед назначением элементов управления
Управление должно охватывать прогностические модели, генеративные системы и агенты, которые координируют действия с помощью связанных инструментов. Включите внутренне разработанные приложения, закупленное программное обеспечение, встроенные функции поставщика и помощники, настроенные для сотрудников.
Соответствующее использование охватывает открытие, клинические операции, нормативные вопросы, фармаконадзор, производство, качество, оценку поставщиков и доступ к рынку. В рефлексивном документе EMA явно рассматривается ИИ от обнаружения через настройку после авторизации. ЭМА АИ медицинская бумага для отражения жизненного цикла
Отличить информационное использование от косвенной зависимости. Суммирование публичной литературы для исследования отличается от подготовки доказательств, на которые опирались в оценке безопасности, изменении контролируемой записи или инициации внешнего представления.
Таким образом, одна и та же модель может потребовать разных элементов управления в разных рабочих процессах. Записывайте фактические действия, пользователей, данные и решения по последующему потоку, а не только имя программного обеспечения.
Семь столпов управления
1. Инвентаризация вариантов использования и предполагаемое использование
Владелец: Владелец бизнес-процесса, поддерживаемый техническим владельцем ИИ.
Создайте одну запись инвентаря для каждого материально отличного использования. Запишите цель, конфигурацию системы, пользователей, юрисдикции, категории данных, подключённые инструменты, выходные данные, нисходящую зависимость и запрещенные действия.
Напишите предполагаемое использование в качестве тестируемого утверждения: «Извлечение полей-кандидатов из утвержденных исходных документов для квалифицированного обзора» более полезно, чем «Автоматическое соответствие».
Доказательства должны включать заявление о предполагаемом использовании, схему границ системы, подотчетный владелец и дату проверки. Документируйте предсказуемое неправомерное использование, включая сотрудников, рассматривающих проект рекомендации как утвержденный вывод. Этот операционный подход поддерживает оценку риска, связанную с конкретным контекстом, а не обобщение на уровне модели. Аналогичная/биологический проект руководства по лекарственным средствам/биологическим ИИ Схема управления рисками в области искусственного интеллекта NIST
2. Классификация рисков и права принятия решений
Владелец: Владелец процесса, с соответствующим качеством, нормативным, клиническим/безопасным участием и контролем-функцией.
Оцените неотъемлемый риск перед контролем и остаточным риском после контроля. Учитывайте влияние пациента и продукта, чувствительность, внешний эффект, обратимость, степень зависимости и реальную возможность обнаружения ошибок.
Для агентов определите разрешения отдельно для чтения, рекомендаций, записи и передачи. Одобрение для анализа репозитория не является одобрением для его изменения.
Доказательства должны включать оценку риска, регистр разрешений и маршрут утверждения. Существующие правовые обязанности и санкционированные процедуры имеют приоритет над моделью внутренней делегирования организации. Сценарий управления рисками AI NIST EUDRALEX том 4 — GMP Руководства
3. Качество данных, происхождение, конфиденциальность и безопасность
Владелец: Владелец данных, поддерживаемый конфиденциальностью и информационной безопасностью.
Укажите разрешенные источники, права доступа, удержание, географические ограничения и механизмы обработки поставщиков. Сохраняйте удостоверение, версию и соответствующий контекст, чтобы рецензенты могли проверять претензии.
Относитесь к извлеченным документам как к доказательствам, а не как к инструкциям. Недоверенный текст не должен позволять расширять полномочия агента. Примените наименьшие привилегии к учетным записям служб и раздельному доступу к разработке, тестированию и производству.
Доказательства включают квалификацию источника, картирование потоков данных, проверку доступа и тестирование безопасности. Generative-AI Risk Management должен учитывать целостность информации, конфиденциальность, безопасность и риски, вносимые третьими лицами. Генеративный профиль AI для NIST
4. Валидация, тестирование и гарантия
Владелец: технический владелец; Качество/GXP определяет применимые регулируемые гарантийные ожидания с владельцем процесса.
Определите критерии приемки перед тестированием. Испытайте полный рабочий процесс с репрезентативными входами, отсутствующими доказательствами, противоречивыми источниками, вредоносными инструкциями, сбоями интеграции и ненадлежащими разрешениями.
Отдельно аналитическая производительность от операционного контроля: точный ответ не показывает, что маршрутизация, подписи или выполнение инструмента являются правильными.
Доказательства должны включать требования, наборы тестовых данных, результаты, неразрешенные отклонения и решение о принятии. Гарантия должна соответствовать предполагаемому использованию; Одни только тесты поставщиков не демонстрируют пригодности для сконфигурированного процесса компании. Проект руководства по медикаментозному/биологическому искусству ИИ EUDRALEX VOLUME 4 — Руководящие принципы GMP
5. Человеческий надзор и управление исключениями
Владелец: Владелец процесса и соответствующее лицо, принимающее решение.
Укажите, какие рецензенты должны проверить, какие доказательства они получают и когда работа должна прекратиться. Рецензенты нуждаются в компетентности, достаточном времени и полномочиях, чтобы отклонить рекомендации.
Определите депутатов, срочную эскалацию и обработку, когда необходимые рецензенты недоступны. Шаг одобрения человека неэффективен, если рецензенты не могут проверять источники или если рабочий процесс выполняется до утверждения.
Доказательства включают в себя обучение рецензентов, записи утверждения, процедуры исключения и тестирование эффективности проверки. Применимые клинические, качественные и регулируемые подписи остаются в силе, когда ИИ поддерживает работу. Ich E6 Надлежащая клиническая практика Эвралекс, том 4 — Руководства GMP Часть 11 FDA Часть 11 — Объем и применение
6. Мониторинг, контроль изменений и реагирование на инциденты
Владелец: Владелец технического обслуживания, с владельцем процесса и соответствующими функциями качества или безопасности.
Контролируйте фактическую производительность, исключения и нарушения разрешений. Контролируйте изменения в моделях, подсказках, индексах поиска, правилах, интеграциях и утвержденных источниках.
Предопределение триггеров подвески и резервного процесса. Выясните, повлияла ли ошибка на предыдущие результаты, а не только на текущую транзакцию.
Доказательства включают мониторинг отчетов, оценки изменений, записи инцидентов и корректирующие действия. Мониторинг жизненного цикла должен учитывать изменение поведения системы и условий эксплуатации в соответствии с принципами управления рисками. Сценарий управления рисками NIST AI Генеративный профиль ИИ
7. Документация, аудит и улучшение
Владелец: Владелец процесса, поддерживаемый управлением записями и независимой гарантией.
Поддерживайте проверяемую цепочку доказательств, связывающую источник, сконфигурированную систему, вывод, человеческое решение и выполненные действия.
Сохраняйте записи, имеющие отношение к принятию решений, в соответствии с утвержденным графиком. Не регистрируйте конфиденциальные данные без разбора и не думайте, что доступны скрытые модели.
Доказательства включают истории версий, записи доступа, события материального инструмента, утверждения, выводы аудита и действия по улучшению. Элементы управления электронными документами зависят от применимой деятельности и правил; Руководство FDA, часть 11, прямо отличает лежащие в основе лежащие в себе обязательства по записи, от его ограниченной политики в области правоприменения. FDA Часть 11 — Объем и приложение
Применить уровни риска, не путая их с правовой классификацией
Следующие четыре уровня являются внутренними категориями управления. Они не являются категориями риска закона ЕС об ИИ.
| Внутренний уровень | Типичные характеристики | Предлагаемые ворота утверждения | Триггер эскалации |
|---|---|---|---|
| Низкий | информационный; ограниченная зависимость; легко исправляется; Утвержденные данные с низкой чувствительностью | Утверждение владельца процесса и основные проверки безопасности | Новые конфиденциальные данные, операционная зависимость или внешнее действие |
| Умеренный | Проекты или рекомендации, вступающие в установленный процесс проверки | процесс и техническое принятие; Соответствующий обзор функции управления | Непроверяемые доказательства, повторяющиеся существенные ошибки или расширенные разрешения |
| Высоко | существенное влияние на регулируемые доказательства, безопасность, качество или контролируемые записи | Применимые гарантии качества/GXP и принятие домена до производства | Критическая промах, несанкционированная запись, сбой управления или изменение конфигурации материала |
| Критический | Потенциальный серьезный вред, необратимые последствия или вмешательство в требуемые уполномоченные решения | Решение об исполнительном риске плюс требуемые утверждения домена; Запретить неподдерживаемые автономные действия | Потерянный надзор, неспособность восстановить решения или неприемлемый остаточный риск |
Не усредняйте серьезное последствие, потому что другие факторы хорошо оцениваются. Плохая обнаруживаемость человека может сделать явно обратимое действие опасным: организация не может устранить ошибку, которую она не распознает.
Запрещенное или незаконное использование остается запрещенным; Внутренний комитет не может одобрить его до приемлемости. Юридическая классификация должна оцениваться отдельно по назначению, юрисдикции и ответственности субъекта. Обзор реализации Закона Европейской комиссии по ИИ
Make decision authority explicit
Матрица ниже представляет собой иллюстративное предложение по управлению HERMS, а не универсальное правовое правило. Фактические роли утверждения должны следовать действующему праву, разрешениям и утвержденным процедурам.
| Приложение | Предлагаемая автономия ИИ | Требуемая человеческая роль | Ключевые доказательства/контроль |
|---|---|---|---|
| Составление нормативных документов | получить доказательства и подготовить текст кандидата | Regulatory and scientific reviewers approve controlled content | Проверенные ссылки на источник к претензии; Контроль версий |
| Окончательное одобрение подачи | собрать и проверить утвержденный пакет; Передача только в рамках авторизованного рабочего процесса | Уполномоченный процесс заявителя/спонсора сохраняет одобрение и подписи | Approval bound to package, destination and version |
| Скрининг литературы | Поиск, расстановка приоритетов и идентификация записей кандидатов | Рецензент домена решает последующие или неопределенные классификации | Тестирование покрытия; оригиналы; Документированные исключения |
| Оценка PV-сигнала | Составьте шаблоны и предлагайте приоритеты | Квалифицированный персонал по технике безопасности/медицинский персонал | отслеживаемые доказательства; неопределенность; эскалация |
| Дизайн клинического протокола | Сравнить варианты и составлять альтернативы | спонсоры и соответствующие клинические/статистические рецензенты; Этический/регуляторный обзор, если это применимо | Научное обоснование и защита участников |
| Оценка доказательств генной терапии | Карта литературы и выявление пробелов в доказательствах | Научные, клинические специалисты и специалисты по биобезопасности оценивают выводы | происхождение; Трансляционные ограничения |
| отклонения GMP | Соберите доказательства и предложите пути исследования | Качество одобряет выводы, действия и закрытие | записи о расследовании; Причинное обоснование |
| Пакетный распорядок | Проверить записи и пометить исключения | Применимые уполномоченные обязанности по качеству/QP остаются | контролируемые записи; Требуемая сертификация |
| Разведка поставщика | Консолидировать доказательства и пометить опасения | Владелец качества поставщика/закупок определяет квалификацию | надежность источника; конфликты; Документированное решение |
Важным контролем является не только название должности. Это явное право на решение, связанное с доказательствами, компетентностью и действующим рабочим процессом. Соответствующие клинические обязанности и обязанности GMP по-прежнему отличаются от технической способности агента генерировать или выполнять действие. ICH E6 Надлежащая клиническая практика Эвралекс, том 4 — Руководящие принципы GMP
Назначать роли без создания узкого места в управлении
Используйте модель, подобную RACI, но сохраните одного идентифицированного владельца подотчетного владельца для каждого решения.
| Роль | Основная ответственность |
|---|---|
| Ответственный руководитель | Одобряет политику, ресурсы и аппетит к риску; разрешает эскалации в рамках законного органа |
| Владелец процесса | Владеет предполагаемым использованием, операционными результатами, обучением и постоянной пригодностью |
| QA/GXP | Определяет применимые системы контроля качества; Контролирует гарантию, отклонения и регулируемые процессы изменений |
| Распорядительный | Оценивает юрисдикционные последствия, претензии, связанные с органами власти, и контроль за подачей |
| PV/медицинский/клинический | Владеет соответствующей профессиональной интерпретацией и безопасностью/клиническим обзором |
| Юридическая/Конфиденциальность/Инфосек | Оценивает юридическую основу, контракты, конфиденциальность, защиту данных и кибербезопасность |
| Технический владелец данных/AI | Поддерживает архитектуру, конфигурацию, интеграцию, тестирование и мониторинг |
| Независимая гарантия | Проблемы Контролируйте дизайн и эффективность работы без рутинного исполнения |
Центральный форум управления должен устанавливать стандарты и разрешать исключения с высоким риском, а не утверждать каждую подсказку с низким уровнем риска. В противном случае управление становится очередей, а не контролем.
Документы депутатов и конфликты интересов. Независимость, в частности, имеет значение, когда одна и та же команда разрабатывает систему, оценивает ее производительность и выступает за развертывание.
Управление поставщиками и модельными цепочками поставок
Квалификация поставщика должна изучить фактически приобретенную услугу: доступ к модели, размещенное приложение, служба поиска, поставщик интеграции или комбинированная платформа.
Требовать доказательства, пропорциональные риску:
- Использование данных, хранение, обучающее использование и субпроцессоры.
- Контроль доступа, уведомление об инциденте и непрерывность обслуживания.
- Изменения модели/конфигурации и доступные элементы управления версией.
- Оценочные доказательства, ограничения и обязанности заказчика.
- Экспортируемость записей и выездных механизмов.
Сертификат поставщика является подтверждающим доказательством, а не заменой для оценки конкретного использования. ISO/IEC 42001 касается системы управления ИИ; Он не разрешает лекарство, не подтверждает определенный рабочий процесс и не доказывает соответствие каждому фармацевтическому обязательству. ISO/IEC 42001:2023 Официальный обзор
Контракты должны поддерживать операционный контроль. Политика, требующая предварительной оценки изменений, неэффективна, если услуга может существенно измениться без пригодного для использования уведомления или приемлемого резервного резервного копирования.
Поймите, какой вклад вносит каждый нормативный ресурс
| Источник | Статус/Территория | Практическое значение управления |
|---|---|---|
| Руководство по медикаментозному/биологическому искусственному интеллекту FDA | Проект января 2025 г.; США; необязательный и не для реализации | оценить достоверность в отношении определенного контекста использования; Не называйте это окончательным |
| EMA AI бумага для отражения | принятый; Впервые опубликовано в сентябре 2024 г.; ЕС научный доклад | Учитывайте риски ИИ на протяжении всего жизненного цикла лекарственного средства |
| Закон об ИИ ЕС | Связывание законодательства ЕС с дифференцированными и поэтапными | Оценка классификации, ответственности субъекта и применимых обязательств отдельно |
| Профиль NIST AI RMF и Genai | Добровольные, межотраслевые ресурсы | Управление жизненным циклом и генеративным управлением AI |
| ISO/IEC 42001:2023 | Международный стандарт системы управления ИИ | Создавать и улучшать организационные механизмы управления |
| ICH/GXP и электронное управление | Внедрение в зависимости от юрисдикции и деятельности | Сохраняйте применимые обязанности по испытаниям, качеству, валидации, записи и подписи. |
Эти ресурсы дополняют друг друга, а не эквивалентны. Страница FDA остается явно составной частью; EMA идентифицирует свою рефлексию как принятую. NIST описывает свою структуру как добровольную, а ISO определяет 42001 как стандарт системы управления. Декламация по медицинскому/биологическому искусственному интеллекту и ИИ EMA AI медицинский документ отражения жизненного цикла продукта Схема управления рисками NIST ISO/IEC 42001:2023 Официальный обзор
По состоянию на 16 ноября 2026 г. Комиссия сообщает общие заявления об ИИ ЕС от 2 августа 2026 года, за исключением случаев, когда это исключено. На его текущей странице реализации отчеты представлены пересмотренные даты высокого риска 2 декабря 2027 года для Приложений III и 2 августа 2028 года для систем, связанных с продуктами, связанных с продуктами, в соответствии с AI OMNIBUS. Таким образом, не каждый фармацевтический инструмент искусственного интеллекта автоматически подвергается автоматическому высокому риску или зависит от идентичного графика. Обзор реализации Закона Европейской комиссии по ИИ
Что касается клинических испытаний ЕС, Принципы Е6(R3) ICH и Приложение 1 вступили в силу 23 июля 2025 года; Приложение 2 вступает в силу 15 января 2027 года. Это даты реализации ЕС, а не всемирные даты вступления в силу. ICH E6 Надлежащая клиническая практика
В текущем индексе EUDRALEX перечислены Приложение 11, январь 2011 г. В 2025 году были проведены пересмотренные Приложение 11 и предлагаемые ИИ Приложения 22. Окончательное принятие не было установлено в рассмотренных источниках. Они не должны представляться как эффективные окончательные требования. Эвралекс, том 4 — Руководящие принципы GMP GMP Глава 4, Приложение 11 и предлагаемые консультации 22 Приложения 22
Пропорционально проверяйте и сохраняйте заслуживающие доверия записи
Не каждый инструмент искусственного интеллекта автоматически является компьютеризированной системой GXP. Определите, влияет ли его предполагаемое использование на регулируемую деятельность, требуемую запись, безопасность пациента или качество продукта.
Для соответствующих систем подключите требования к тестам и тестам к принятию решений о приеме. Включите исходное происхождение, доступ, поведение интеграции, элементы управления рецензентом, обработку сбоев и сохранение.
Сохраняйте оригиналы и отличайте информацию о кандидатах, созданную машиной, от утвержденных записей. При применении электронных подписей сохранять требуемые элементы управления идентификацией и подписью; Агент не должен выдавать себя за уполномоченное лицо.
В руководстве FDA Part 11 Scope говорится, что часть 11 остается в силе и что основные обязательства по правилу предиката продолжаются, несмотря на указанное правоприменение. Таким образом, обычное утверждение поставщика, соответствующего требованиям «Часть 11», не разрешает применимость или адекватность конкретного развертывания. FDA Часть 11 — Объем и приложение
адрес предсказуемых режимов отказа
| Режим сбоя | Конкретная предлагаемая защита |
|---|---|
| галлюцинация или неправильная атрибуция | Проверка существенных претензий к авторитетным источникам |
| предвзятость или нерепрезентативная производительность | Проверка соответствующих популяций, языков и условий эксплуатации |
| оперативная инъекция | рассматривать внешний контент как ненадежный; Применить авторизацию за пределами инструкций модели |
| Утечка данных | Ограничить потоки данных, разрешения, хранение и обработку провайдера |
| Модель или поисковый дрейф | Мониторинг качества; контрольные версии; Повторная оценка существенных изменений |
| Неадекватная прослеживаемость | Захват исходных версий, конфигурации, материалов и утверждений |
| Предвзятость автоматизации | тестирование рецензентов; требовать проверки, основанной на фактических данных; Образец принятых выходных данных независимо |
| Сторонний сбой зависимости | квалифицировать поставщиков; Определить элементы управления уведомлениями, непрерывностью и выходом |
Эти гарантии вводят в действие управление рисками; Они не утверждают, что какой-либо отдельный метод устраняет связанный с этим риск. Генеративно-AI требует многоуровневого контроля и продолжающейся оценки. Генеративный профиль AI для NIST
Два иллюстративных сценария управления
Неправильная атрибуция источника в ответе на досье
Помощник составляет ответ на вопрос авторитета и ссылается на подлинное исследование, но приведенный отрывок не поддерживает его заключение.
Рецензент отклоняет претензию до утверждения. Команда сохраняет результаты, оценивает, затронуты ли другие разделы, и исследует результаты поиска и атрибуции. Корректирующее действие направлено на паттерн неудачи, а не только на предложение.
Урок управления состоит в том, что присутствие цитирования и корректность цитирования являются различными критериями приемки.
Приоритизация сигнала безопасности, требующая медицинского осмотра
Система присваивает потенциальный сигнал низкого приоритета, потому что отчеты редки, в то время как доступные нарративы предполагают клинически важную закономерность.
Квалифицированный персонал по технике безопасности рассматривает доказательства и переопределяет приоритеты. Владелец процесса проверяет, были ли подобные случаи деприоризированы, и корректирует критерии мониторинга или эскалации после соответствующей оценки.
Урок управления состоит в том, что приоритизация поддерживает управление рабочими нагрузками; Он не должен молча заменять подотчетную медицинскую оценку. Оба сценария являются гипотетическими.
Реализация поэтапно, с доказательствами у каждого ворота
| Период | Измеримые результаты | предпосылки |
|---|---|---|
| Дни 0–30 | утвержденный устав; названные владельцы; initial inventory; Временные ограничения для неоцененных косвенных целей | Спонсорство руководителей и доступ к владельцам бизнеса/систем |
| Дни 31–60 | Приоритетное использование, оцениваемое риском; записи по назначению; продавец/обзор данных; Определенные критерии приемки | Согласованный метод уровня и соответствующее участие в контроле |
| Дни 61–90 | завершенное пилотное тестирование; Обученные рецензенты; процедуры мониторинга, инцидентов и резервов; Задокументированные решения о принятии | Подходящие данные, контролируемые среды и разрешённые критические выводы |
| День 90 и далее | периодические обзоры; переоценка, запускаемая изменениями; надзор за поставщиком; независимая выборка; Пенсионное планирование | Стабильная собственность, сохраненные доказательства и операционный мониторинг |
Это окна планирования, а не обещанная длительность реализации. Развертывание с высоким риском не должно продвигаться просто потому, что прошла веха календаря.
Измерить эффективность контроля
Определите знаменатели и источники доказательств, прежде чем сообщать:
- Покрытие запасов: Идентифицированные виды использования, зарегистрированные в отношении населения, установленного с помощью утвержденного метода обнаружения.
- Покрытие оценки риска: активное использование с текущими утвержденными оценками, разделенными на активное использование.
- Полнота валидации: Применимые требования к принятию подтверждаются утвержденными доказательствами.
- Реформация человека-обзора: истекшее время до подотчетного обзора, сегментированного по срочности.
- Скорость переопределения: существенно измененные или отклоненные рекомендации, классифицированные по причине.
- Время сдерживания инцидента: прошедшее время от обнаружения до задокументированного содержания.
- Просроченные обзоры: системы после утвержденной даты проверки.
- Полнота происхождений: отобранные выходные данные с достаточным подтвержденным исходным кодом.
- Полнота аудита: выборочные задачи, содержащие все необходимые записи решений и действий.
Пара метрик скорости с качественной выборкой. Падение переопределения может указывать на улучшение или самоуспокоенность. Ни одна универсальная цель не подходит для всех видов использования.
Перспектива Герма
Herms Global позиционирует свой портфель на основе интеллектуальных наук о жизни в области развития, регулирования, производства, доступа и безопасности. Прослеживаемые доказательства, ограниченная автономия, явные права принятия решений и подотчетность человека являются подходящими принципами для оценки таких рабочих процессов. Эта статья не устанавливает независимо валидацию продукта, нормативную базу или эффективность развертывания. Решения HERMS
Часто задаваемые вопросы
Что такое структура управления ИИ для фармацевтической компании?
Это сочетание собственности, политики, прав на принятие решений, контроля и сохраненных доказательств, регулирующих использование ИИ от предложения до выхода на пенсию. Он должен связывать бизнес-процессы с действующими требованиями качества, безопасности, конфиденциальности и нормативных требований, а не как отдельный документ по этике.
Кто несет ответственность, когда агент дает регулируемую рекомендацию?
Подотчетность остается в организации и применимых уполномоченных ролях. Определите владельца процесса, технического владельца и квалифицированного рецензента. Рекомендация, сгенерированная моделью, не переносит установленную законом, профессиональную или процедурную ответственность на программное обеспечение. ICH E6 Надлежащая клиническая практика Эвралекс, том 4 — Руководящие принципы GMP
Какие виды использования нуждаются в формальной валидации или человеческом согласии?
Оценить предполагаемое использование, регулируемое воздействие, записи, действующее право и утвержденные процедуры. Последовательные виды использования обычно требуют более сильной гарантии. Необходимые клинические, качественные или подписные обязанности остаются применимыми; Не существует универсального правила, согласно которому каждый вывод ИИ требует ручного одобрения. FDA Часть 11 — Объем и применение ICH E6 Хорошая клиническая практика EUDRALEX VOLUME 4 — Руководящие принципы GMP
Может ли один уровень риска применяться во всей компании?
Обычный метод может, но оценка должна оставаться специфичной для использования. Одна и та же платформа может поддерживать исследовательские исследования и последующую обработку записей. Классифицируйте каждую конфигурацию и рабочий процесс, а затем повторно оценивайте, когда его данные, разрешения или доверие меняются.
Доказывает ли сертификация ISO/IEC 42001 фармацевтическую соответствие?
Нет. Это касается системы управления ИИ. Он не заменяет гарантию конкретного использования, применимые обязательства GXP, необходимые разрешения или авторизацию продукта. Оцените область сертификации наряду с доказательствами развертывания, а не рассматривайте их как универсальное принятие. ISO/IEC 42001:2023 Официальный обзор
Когда система должна быть приостановлена или выйти на пенсию?
Приостановка при сбое критического контроля, происходят несанкционированные действия или не могут быть продемонстрированы приемлемые характеристики. Выход на пенсию должен отозвать доступ, отключать интеграцию, сохранять необходимые записи и назначать право собственности на неразрешенные результаты. Протестируйте запасной вариант до того, как он понадобится.
Чтобы обсудить готовность к управлению, отслеживаемые доказательства и соответствующие органы принятия решений, изучите HERMS-решения и запросите демонстрацию, ориентированную на рабочий процесс, с помощью соответствующего запроса решения.
Соответствующие решения HERMS
Ознакомьтесь с решениями HERMS, имеющими отношение к рабочим процессам, обсуждавшимся в этой статье: Attestra — целостность и управление данными; Veriqis — целостность доказательств и уверенность; regaxis — Registration Lifecycle Intelligence. Оценивайте каждое решение в соответствии с вашим предполагаемым использованием, доказательствами и требованиями утверждения.
Источники и дальнейшее чтение
- Анжиотва за лекарство/биологический ИИ
- ЭМА АИ медицинская бумага для отражения жизненного цикла
- Сцена управления рисками NIST AI
- EUDRALEX VOLUME 4 — GMP Guidelines
- Генеративный профиль AI для NIST
- ICH E6 Надлежащая клиническая практика
- FDA Часть 11 — Объем и приложение
- Обзор реализации Закона Европейской комиссии по ИИ
- ISO/IEC 42001:2023 Официальный обзор
- ГМП Глава 4, Приложение 11 и предлагаемая консультация 22 Приложение 22
Изучите фармацевтическую серию ИИ
- Управление по принятию решений в области AI и человеческий надзор
- Агениальный и генеративный ИИ в фармацевтических препаратах
- Утверждение человеческого утверждения для фармацевтического искусственного интеллекта
- Доказательства в реальном мире для регулирования и доступа к рынку
- Проверка и контроль изменений медицинского устройства AI
- Доступ к глобальному фармацевтическому рынку, HTA и ценовые доказательства
Изучите Решения в области наук о жизни HERMs и Управление и прослеживаемость или Запросите демонстрацию, ориентированную на рабочий процесс.
