|
Getting your Trinity Audio player ready...
|
Die Qualität von Trainingsdaten ist entscheidend für den Erfolg und die Sicherheit von KI-Systemen. Mit dem QuaIDAL-Kriterienkatalog bietet das Bundesamt für Sicherheit in der Informationstechnik (BSI) einen umfassenden Rahmen, um Datenqualität, Transparenz und Fairness systematisch zu bewerten. Der Katalog deckt alle Phasen des KI-Lebenszyklus ab – von der Datenakquise bis zur Bias-Detektion – und unterstützt Entwickler, Unternehmen und Behörden dabei, KI-Projekte sicher und zuverlässig umzusetzen. QuaIDAL schafft damit die Grundlage für vertrauenswürdige KI-Anwendungen, die den höchsten Standards gerecht werden.
Die wichtigsten Punkte sind:
- KI und IT-Sicherheit
- IT-Sicherheit für KI: Schutz von KI-Systemen vor Angriffen.
- IT-Sicherheit durch KI: Einsatz von KI zur Verbesserung der IT-Sicherheit.
- Angriffe durch KI: Nutzung von KI zur Verstärkung von Cyberangriffen.
- Forschung und Kooperation
- Zusammenarbeit mit Standardisierungsgremien und internationalen Experten.
- Organisation von Workshops, wie z. B. zur Prüfbarkeit von KI-Systemen.
- Studien zu erklärbarer KI (XAI), formalen Methoden und der Sicherheit von KI.
- Kompetenzzentrum Künstliche Intelligenz
- Entwicklung von Sicherheitsstandards für KI-Systeme.
- Veröffentlichung des “AI Cloud Service Compliance Criteria Catalogue” für Cloud-Dienste.
- Fokussierung auf Aspekte wie Robustheit, Fairness, Transparenz und Datenqualität.
- KI in sicherheitskritischen Bereichen
- Anwendungen in Bereichen wie autonomes Fahren und biometrische Identifikation.
- Entwicklung spezifischer Anforderungen, z. B. für Verkehrsschilderkennung unter widrigen Bedingungen.
- Generative KI
- Chancen und Risiken von Modellen wie großen Sprachmodellen (LLMs).
- Risikoanalyse und Sicherheitsleitfäden für den Einsatz generativer KI.
- Praktische Leitfäden
- Publikationen für Entwickler, z. B. “AI Security Concerns in a Nutshell”.
- Empfehlungen für die sichere Entwicklung und den Einsatz von KI-Systemen.
- Spezifische Studien und Projekte
- Einsatz von KI in Kryptografie und statischer Codeanalyse.
- Sicherheit von KI-Systemen in verschiedenen Szenarien, z. B. Adversarial Learning.
- Qualitätsbewertung von Trainingsdaten
- Der QUAIDAL-Kriterienkatalog definiert Maßstäbe für Datenqualität, Fairness und Compliance im KI-Lebenszyklus.
- Erklärbarkeit und Transparenz
- Forschung zu erklärbarer KI und deren Einsatz in Bewertungsverfahren.
- Förderung von Transparenzanforderungen im Einklang mit der KI-Verordnung der EU.
Die Arbeit des BSI zielt darauf ab, KI-Systeme sicher, robust und nachvollziehbar zu gestalten, um sowohl Chancen zu nutzen als auch Risiken zu minimieren.