Un principe directeur pour une IA responsable dans le secteur réglementé de la santé.
Découvrez l’approche HERMS et notre portefeuille de solutions.
L’IA peut lire, synthétiser et formuler des suggestions à une vitesse qu’aucune équipe ne peut égaler. Mais dans les secteurs de la santé et des sciences de la vie, la rapidité sans responsabilité constitue un risque.
HERMS repose sur une règle : le modèle ne décide jamais. Il propose. Le moteur de règles décide. La piste d’audit consigne les propositions comme les décisions.
Cette séparation entre les composants probabilistes et déterministes permet d’expliquer chaque résultat. Un évaluateur peut voir ce que le modèle a suggéré, quelles règles ont été appliquées et pourquoi la décision finale a été prise.
Ce même principe permet un apprentissage encadré. La plateforme s’améliore grâce à des mises à jour contrôlées et examinées, jamais par une automatisation non maîtrisée qui modifie son comportement sans supervision.
Pour les autorités de réglementation et les responsables de la conformité, c’est ce qui distingue une IA à laquelle ils doivent faire confiance d’une IA qu’ils peuvent vérifier.
