Der KI-Modellpass: Digitale Identität für transparente und nachvollziehbare KI im Gesundheitswesen

Die zunehmende Inte­gra­tion von Kün­stlich­er Intel­li­genz (KI) in Gesund­heits- und Bio­medi­zin­sys­teme erfordert robuste Rah­men­werke für Trans­parenz, Rechen­schaft­spflicht und ethis­che Com­pli­ance. Beste­hende Ansätze, die oft auf manueller Doku­men­ta­tion basieren, sind nicht skalier­bar, ver­gle­ich­bar oder maschi­nen­les­bar und bieten keine ein­deutige, über­prüf­bare Iden­tität für KI-Mod­elle.

Das Paper AI MODEL PASSPORT: DATA AND SYSTEM TRACEABILITY FRAMEWORK FOR TRANSPARENT AI IN HEALTH stellt das Konzept des KI-Mod­ell­pass­es vor, ein struk­turi­ertes und stan­dar­d­isiertes Doku­men­ta­tions­frame­work, das als dig­i­tale Iden­tität und Ver­i­fizierungstool für KI-Mod­elle dient. Es erfasst essen­zielle Meta­dat­en, um KI-Mod­elle über ihren gesamten Leben­szyk­lus – von der Daten­er­fas­sung und ‑vorver­ar­beitung bis hin zum Mod­el­len­twurf, der Entwick­lung und Bere­it­stel­lung – ein­deutig zu iden­ti­fizieren, zu ver­i­fizieren, zu ver­fol­gen und zu überwachen.

Als Imple­men­tierung dieses Frame­works wird AIPass­port präsen­tiert, ein MLOps-Tool, das im Rah­men des EU-Pro­jek­ts ProCAncer‑I für medi­zinis­che Bildge­bungsan­wen­dun­gen entwick­elt wurde. AIPass­port automa­tisiert die Meta­daten­er­fas­sung, gewährleis­tet eine ord­nungs­gemäße Ver­sion­ierung, entkop­pelt Ergeb­nisse von Quell­skripten und lässt sich in ver­schiedene Entwick­lung­sumge­bun­gen inte­gri­eren.

Das Frame­work ist darauf aus­gelegt, die Lücke zwis­chen men­schzen­tri­erten Doku­men­ta­tion­stools und tech­nis­chen MLOps-Lösun­gen zu schließen. Es ver­fol­gt wichtige Meta­dat­en bezüglich der Erstel­lung und Kuratierung von Daten­sätzen, des Mod­ell­train­ings und der Vali­dierung sowie der beteiligten Akteure, um eine voll­ständi­ge Nachvol­lziehbarkeit und Rechen­schaft­spflicht im gesamten Work­flow zu gewährleis­ten.

Die Wirk­samkeit des KI-Mod­ell­pass­es wird anhand eines Anwen­dungs­falls zur Läsion­sseg­men­tierung unter Ver­wen­dung von Dat­en aus dem Pro­CAncer-I-Daten­satz demon­stri­ert. Diese Herange­hensweise zielt darauf ab, die Trans­parenz, Repro­duzier­barkeit und reg­u­la­torische Bere­itschaft zu verbessern und gle­ichzeit­ig den manuellen Aufwand zu reduzieren. Das Ziel ist es, einen neuen Stan­dard für die Förderung von Ver­trauen und Rechen­schaft­spflicht in KI-ges­teuerten Gesund­heit­slö­sun­gen zu set­zen und als Grund­lage für die Entwick­lung trans­par­enter und reg­ulierungskon­former KI-Sys­teme in ver­schiede­nen Bere­ichen zu dienen.

Das Papi­er betont, dass AIPass­port im Ver­gle­ich zu beste­hen­den Tools eine einzi­gar­tig umfassende und stan­dard­basierte Herange­hensweise an Trans­parenz und Nachvol­lziehbarkeit in der KI-Entwick­lung bietet. Es ist das einzige Tool, das dig­i­tale Dat­en- und Mod­el­li­den­titäten bere­it­stellt, wodurch die Über­prüf­barkeit und Repro­duzier­barkeit von Dat­en und Mod­ellen in allen Phasen der Entwick­lungspipeline zuver­läs­sig über Insti­tu­tio­nen und Bere­it­stel­lun­gen hin­weg etabliert wer­den kann. Zudem ist es expliz­it darauf aus­gelegt, die Anforderun­gen europäis­ch­er Reg­ulierungsini­tia­tiv­en wie des Euro­pean Health Data Space (EHDS) und des Dig­i­tal­en Pro­duk­t­pass­es zu erfüllen.

Obwohl das Sys­tem Stärken aufweist, gibt es auch Ein­schränkun­gen, wie die aktuelle Aus­rich­tung auf zen­tral­isierte KI-Mod­el­len­twick­lungswork­flows und das Fehlen inte­gri­ert­er Mod­el­lüberwachungs­funk­tio­nen für Pro­duk­tion­sumge­bun­gen. Zukün­ftige Arbeit­en konzen­tri­eren sich auf die Erweiterung der Unter­stützung für föderiertes Ler­nen und die Anwen­dung in weit­eren klin­is­chen Kon­tex­ten und KI-Modal­itäten.

Zuerst erschienen auf Iden­ti­ty Econ­o­my