Direkt zum Inhalt
Säule 2

Stärkung der Entwicklung
vertrauenswürdiger KI

MISSION KI Mindeststandard

MISSION KI entwickelt einen freiwilligen Mindeststandard für Künstliche Intelligenz, der die Zuverlässigkeit und Vertrauenswürdigkeit von KI-Anwendungen stärkt.

Seit dem 01.08.2024 regelt der EU AI Act europaweit die Sicherheit von KI-Anwendungen. Das Gesetz legt den Fokus auf Hochrisiko-KI-Systeme und definiert strenge Anforderungen sowie Konformitätsbewertungsverfahren für diese Anwendungen.

Für KI-Anwendungen mit niedrigerem Risiko, etwa in der automatisierten Vertragsprüfung oder der Optimierung von Lieferketten, bietet der EU AI Act eine flexible Regulierung. Diese Systeme unterliegen vorwiegend Transparenzanforderungen, um Nutzer und Anbieter informiert zu halten.

An diesem Punkt setzt MISSION KI an. Die Initiative zielt darauf ab, mit einem freiwilligen, praxistauglichen Mindeststandard einen flexiblen Rahmen für KI-Anwendungen unterhalb der Hoch-Risikoschwelle zu schaffen. Dieser Standard knüpft an die Anforderungen des EU AI Act für Hoch-Risiko-Anwendungen an und stellt Qualität sowie Vertrauenswürdigkeit sicher.

MISSION KI stärkt das Vertrauen der Anwender in KI-Technologien und schafft gleichzeitig Wettbewerbsvorteile für KI-Anbieter, die den Standard anwenden. Durch die Erprobung an realen Anwendungsfällen stellt die Initiative sicher, dass der Standard bedarfsorientiert und praxistauglich entwickelt wird.

1. Worauf basiert der MISSION KI Mindestandard inhaltlich?

Der MISSION KI Mindeststandard orientiert sich an den „Ethik-Leitlinien für eine vertrauenswürdige KI“ der hochrangigen Expertengruppe (HEG-KI), die von der Europäischen Kommission einberufen wurde. Die HEG-KI hat zentrale Prinzipien zur Bewertung der Vertrauenswürdigkeit von KI-Systemen festgelegt. Durch die Berücksichtigung dieser Prinzipien gewährleistet der MISSION KI Mindeststandard die Anschlussfähigkeit an die europäische KI-Regulierung und Standardisierung.

1.1 - Dimensionen

In diesem Rahmen wurden sechs zentrale Dimensionen identifiziert, die als Kompass für die verantwortungsvolle Entwicklung und den Einsatz von KI-Systemen dienen. Sie bilden das Fundament für einen ethischen und menschenzentrierten Ansatz in der KI-Landschaft:

Transparenz
  • Widerstandsfähigkeit gegen KI-spezifische Angriffe und Sicherheit

Verlässlichkeit
  • Leistungsfähigkeit & Robustheit

  • Rückfallpläne & allgemeine Sicherheit (Safety)

KI-spezifische Cybersicherheit
  • Widerstandsfähigkeit gegen KI-spezifische Angriffe und Sicherheit

Datenqualität, -schutz und -management
  • Widerstandsfähigkeit gegen KI-spezifische Angriffe und Sicherheit

Nicht-Diskriminierung
  • Widerstandsfähigkeit gegen KI-spezifische Angriffe und Sicherheit

Menschliche Aufsicht & Kontrolle
  • Widerstandsfähigkeit gegen KI-spezifische Angriffe und Sicherheit

1.2 - Schutzbedarfsanalyse

Der MISSION KI Mindeststandard setzt auf die Schutzbedarfsanalyse (SBA) als Ausgangspunkt, um Effizienz zu gewährleisten. Diese Analyse ermittelt den notwendigen Schutzbedarf für die definierten Dimensionen und bildet damit das Fundament für eine zielgerichtete Prüfung. Sie filtert die für einen Anwendungsfall relevanten Dimensionen und Kriterien heraus und legt ein Ziel für die anschließende Prüfung fest.

Details zur Schutzbedarfsanalyse

Der Mindeststandard berücksichtigt somit die Vielfalt der KI-Einsatzszenarien - von der Energieverteilungsoptimierung über Produktempfehlungssysteme bis hin zu medizinischen Diagnosewerkzeugen. Je nach Anwendungsfall variiert die Relevanz der einzelnen Dimensionen.

Beispielsweise spielt bei einer KI zur Optimierung der Stromverteilung der Wert 'Nicht-Diskriminierung' eine untergeordnete Rolle, da die Entscheidungen auf technischen Parametern basieren. Hier rückt der Wert 'Transparenz' dafür stärker in den Fokus:  die Entscheidungen der KI müssen nachvollziehbar und verständlich sein, damit Betreiber und Regulierungsbehörden überprüfen können, warum bestimmte Energieverteilungen vorgenommen wurden.

Unabhängig vom Anwendungsfall unterliegt der Wert "Verlässlichkeit" stets einer Prüfung, da er als grundlegend für die Qualität jeder KI-Anwendung gilt. Die übrigen Dimensionen können unter bestimmten, in der Schutzbedarfsanalyse klar definierten Bedingungen, ganz oder teilweise als nicht anwendbar eingestuft werden. 

2. Wie wird der Standard prüfbar?

2.1 — Der Prüfkriterienkatalog übersetzt abstrakte Dimensionen in messbare Größen

Im Kontext der entstehenden KI-Regulierung und Standardisierung sind auch im europäischen und deutschen Raum eine Reihe von (Kriterien-)Katalogen und Standards zur KI-Vertrauenswürdigkeit veröffentlicht worden. Diese basieren größtenteils auf den Ergebnissen der HLEG-KI.

Details zum Prüfkriterienkatalog

Der Prüfkriterienkatalog der MISSION KI stützt sich insbesondere auf drei Quellen:

  • VDE SPEC 90012, 

  • KI-Prüfkatalog des Fraunhofer IAIS,  

  • Kriterienkatalog für KI-Cloud-Dienste AIC4 des Bundesamt für Sicherheit und Informationstechnik (BSI).

Um den MISSION KI Mindeststandard prüfbar zu machen, wurden die 6 abstrakten Dimensionen in ein strukturiertes Prüfverfahren übersetzt, basierend auf dem sogenannten „VCIO“-Ansatz (englisch: Values – Criteria – Indicators – Observables). Dieser gliedert sich in mehrere Ebenen: Die Dimensionen bilden das Fundament, auf dem konkrete Kriterien aufbauen. Zur Bewertung dieser Kriterien dienen Indikatoren und messbare Größen (Observables). Anhand dieser Struktur wird der Erfüllungsgrad jedes Werts systematisch ermittelt. Diese Methodik gewährleistet eine präzise und nachvollziehbare Bewertung.

Zusätzlich werden Prüfwerkzeuge entwickelt, um die Erfüllung der Observablen zu überprüfen und dadurch die Belastbarkeit des Prüfergebnisses zu erhöhen.

2.2 - Die Bewertung

Am Ende des Prüfprozesses erfolgt eine Gesamtbewertung für jeden der sechs definierten Dimensionen. Diese Bewertung wird mit dem zuvor ermittelten Schutzbedarf abgeglichen. Eine KI-Anwendung besteht die Prüfung, wenn sie für jeden Wert das festgelegte Prüfziel erreicht. Dies dokumentiert, dass die Qualitätsmaßnahmen und deren Nachweise den identifizierten Schutzbedarfen in ausreichendem Maße entsprechen.

Die erfolgreiche Prüfung bestätigt somit, dass die KI-Anwendung die notwendigen Qualitätsstandards erfüllt und die erforderlichen Schutzmaßnahmen implementiert hat. Dieser Prozess gewährleistet eine gründliche Evaluation und schafft Transparenz hinsichtlich der Vertrauenswürdigkeit und Sicherheit der geprüften KI-Systeme.

3. Vorteile für KI-Anwender und Betreiber

Der MISSION KI Mindeststandard bietet klare Vorteile für KI-Anbieter und KI-Betreiber. KI-Anbieter profitieren von einem effizienten Qualitätsnachweis, der für große Unternehmen und Start-ups gleichermaßen nutzbar ist.

Dies verbessert ihre Wettbewerbsfähigkeit, da sie sich durch vergleichbare Qualitätskriterien am Markt abheben können. Zudem legen KI-Anbieter mit dem MISSION KI Mindeststandard schon früh den Grundstein, um die Anforderungen des EU AI Acts zu erfüllen.

Das ist besonders hilfreich, falls sich der Einsatzbereich Ihrer KI-Anwendung so ändert, dass sie später als Hoch-Risiko-Anwendung eingestuft wird. KI-Betreiber wiederum profitieren von höherer Markttransparenz und höherer Zuverlässigkeit der eingesetzten KI-Anwendungen. Dies stärkt auch das Vertrauen der Endnutzer in die Technologie. Eine Win-win-Situation, die die Entwicklung eines robusten und vertrauenswürdigen KI-Ökosystems in Europa fördert.

Umsetzungspartner

Die Entwicklung unseres MISSION KI Mindeststandards wird durch eine starke Partnerschaft führender Institutionen getragen:

Kontaktanfrage

Wir verabeiten Ihre Daten wie in unserer Datenschutzerklärung angegeben.

Newsletter

Melden Sie sich für unseren Newsletter an und erfahren Sie als Erste(r) von spannenden Veranstaltungen und Fortschritten bei MISSION KI.