Ein Leitprinzip für verantwortungsvolle KI im regulierten Gesundheitswesen.
Entdecken Sie den HERMS-Ansatz und unser Lösungsportfolio.
KI kann Informationen in einer Geschwindigkeit lesen, zusammenfassen und Vorschläge formulieren, mit der kein Team mithalten kann. Doch im Gesundheitswesen und in den Life Sciences ist Geschwindigkeit ohne Rechenschaftspflicht ein Risiko.
HERMS basiert auf einer Regel: Das Modell entscheidet niemals. Es schlägt vor. Die Regel-Engine entscheidet. Der Audit-Trail dokumentiert beides.
Diese Trennung zwischen probabilistischen und deterministischen Komponenten macht jedes Ergebnis nachvollziehbar. Prüfende können sehen, was das Modell vorgeschlagen hat, welche Regeln angewendet wurden und warum die endgültige Entscheidung getroffen wurde.
Dasselbe Prinzip ermöglicht auch ein Lernen unter klarer Aufsicht. Die Plattform verbessert sich durch kontrollierte und geprüfte Aktualisierungen – niemals durch unkontrollierte Automatisierung, die ihr Verhalten ohne Aufsicht verändert.
Für Regulierungsbehörden und Compliance-Verantwortliche ist dies der Unterschied zwischen einer KI, der sie vertrauen müssen, und einer KI, die sie überprüfen können.
