Säule 2

Stärkung der Entwicklung
vertrauenswürdiger KI

Der MISSION KI Qualitätsstandard

MISSION KI entwickelt einen freiwilligen Qualitätsstandard für Künstliche Intelligenz (KI), der die Qualität und Vertrauenswürdigkeit von KI-Systemen stärkt.

Seit dem 01.08.2024 reguliert der EU AI Act (KI-Verordnung) europaweit die Entwicklung und den Einsatz von KI-Systemen, um vertrauenswürdige und menschenzentrierte KI in der EU zu fördern. Das Gesetz verfolgt einen risikobasierten Ansatz: Es legt einen Fokus auf verbotene und Hochrisiko-KI-Systeme. Für letztere gelten strenge Anforderungen sowie Konformitätsbewertungsverfahren.

Andere KI-Systeme, etwa in der automatisierten Vertragsprüfung oder der Optimierung von Lieferketten, unterliegen hingegen in Teilen Transparenzanforderungen, das heißt, dass insbesondere die Endnutzerinnen und Endnutzer zu informieren sind, dass sie gerade mit KI interagieren. Dass diese KI-Systeme jedoch auch unter Gesichtspunkten der Finanzierung oder des Qualitätsmanagements in Unternehmen Implikationen mit sich bringen, berücksichtigt die Regulierung nicht direkt.

An diesem Punkt setzt MISSION KI an. Unsere Initiative zielt darauf ab, mit einem freiwilligen, praxistauglichen Qualitätsstandard einen flexiblen Rahmen für jegliche KI-Systeme - auch solche unterhalb der Hoch-Risikoschwelle - zu schaffen. Gleichzeitig knüpft der Standard an die Anforderungen des EU AI Act für Hochrisiko-KI-Systeme an und stellt damit Anschlussfähigkeit sicher.

MISSION KI stärkt Markttransparenz sowie das Vertrauen der KI-Betreiber in KI-Technologien und schafft gleichzeitig Wettbewerbsvorteile für KI-Anbieter, die den Standard anwenden. Durch die Erprobung an realen Anwendungsfällen stellen wir sicher, dass der Standard bedarfsorientiert und praxistauglich entwickelt wird.

1. Worauf basiert der MISSION KI Qualitätsstandard inhaltlich?

Der MISSION KI Qualitätsstandard orientiert sich an den "Ethik-Leitlinien für eine vertrauenswürdige KI" der hochrangigen Expertengruppe (HEG-KI), die von der Europäischen Kommission einberufen wurde. Die HEG-KI hat zentrale Prinzipien zur Bewertung der Vertrauenswürdigkeit von KI-Systemen festgelegt, welche auch eine Grundlage für die Entwicklung von Anforderungen des AI Acts bilden.

1.1 - Qualitätsdimensionen und -kriterien

In diesem Rahmen wurden sechs zentrale Qualitätsdimensionen identifiziert, die als Kompass für die verantwortungsvolle Entwicklung und den Einsatz von KI-Systemen dienen.

Verlässlichkeit

Leistungsfähigkeit & Robustheit
Rückfallpläne & funktionale Sicherheit

KI-spezifische Cybersicherheit

Widerstandsfähigkeit gegen KI-spezifische Angriffe und Sicherheit

Datenqualität, -schutz und Data Governance

Datenqualität
Schutz personenbezogener Daten
Schutz proprietärer Daten

Nicht-Diskriminierung

Vermeidung von ungerechtfertigter Diskriminierung und Verzerrung

Transparenz

Rückverfolgbarkeit und Dokumentation
Erklärbarkeit und Interpretierbarkeit

Menschliche Aufsicht & Kontrolle

Menschliche Handlungsfähigkeit
Menschliche Aufsicht

1.2 - Schutzbedarfsanalyse

Der MISSION KI Standard setzt zudem auf eine Schutzbedarfsanalyse (SBA) als Ausgangspunkt, um die Wichtigkeit der Qualitätsdimensionen für einen Anwendungsfall einzuschätzen und damit Qualitätsanforderungen nach Bedarfen zu staffeln.

Die Analyse ermittelt den notwendigen Schutzbedarf für ein KI-System und bildet damit das Fundament für eine zielgerichtete Prüfung. Sie filtert zudem die relevanten Qualitätsdimensionen sowie Kriterien für den jeweiligen Anwendungsfall heraus und legt ein Zielniveau für die anschließende Prüfung fest.

Details zur Schutzbedarfsanalyse

Der Qualitätsstandard berücksichtigt somit die Vielfalt der KI-Einsatzszenarien - von der Energieverteilungsoptimierung über Produktempfehlungssysteme bis hin zu medizinischen Diagnosewerkzeugen. Je nach Anwendungsfall variiert die Schutzbedarfe und damit auch Relevanz der einzelnen Qualitätsdimensionen und Kriterien.

Beispielsweise spielt die Qualitätsdimension 'Nicht-Diskriminierung' bei einer KI zur Optimierung der Stromverteilung potenziell eine untergeordnete Rolle, da die Entscheidungen auf technischen Parametern basieren. Hier rückt die Qualitätsdimension 'Verlässlichkeit' dafür stärker in den Fokus: die Entscheidungen der KI müssen konsistent zu den korrekten Resultaten führen, damit Betreiber und Regulierungsbehörden sichergehen können, dass die Energieversorgung gewährleistet ist.

2. Wie wird der Standard prüfbar?

2.1 — Der Prüfkriterienkatalog übersetzt abstrakte Qualitätsdimensionen in messbare Größen

Im Kontext der entstehenden KI-Regulierung und Standardisierung sind im europäischen und deutschen Raum eine Reihe von (Kriterien-)Katalogen und Standards zur KI-Vertrauenswürdigkeit veröffentlicht worden. Diese basieren größtenteils auf den Ergebnissen der HEG-KI. Der Prüfkriterienkatalog der MISSION KI stützt sich insbesondere auf zwei Quellen:

Details zum Prüfkriterienkatalog

Um die Prüfbarkeit nach dem MISSION KI Qualitätsstandard zu ermöglichen, wurden die sechs abstrakten Qualitätsdimensionen in ein strukturiertes Prüfverfahren übersetzt, basierend auf dem sogenannten „VCIO“-Ansatz (englisch: Values – Criteria – Indicators – Observables). Dieser gliedert sich in mehrere Ebenen: Die Qualitätsdimensionen (Values) bilden das Fundament, auf dem konkrete Kriterien (Criteria) aufbauen. Zur Bewertung dieser Kriterien dienen Indikatoren (Indicators) und messbare Größen (Observables). Anhand dieser Struktur wird der Erfüllungsgrad jeder Qualitätsdimension systematisch ermittelt. Diese Methodik gewährleistet eine modulare und nachvollziehbare Bewertung.

Zusätzlich werden Prüfwerkzeuge entwickelt, um die Erfüllung der Observablen zu überprüfen und dadurch die Belastbarkeit des Prüfergebnisses zu erhöhen.

2.2 - Die Bewertung

Am Ende des Prüfprozesses erfolgt eine Gesamtbewertung für jede der sechs definierten Qualitätsdimensionen. Diese Bewertung wird mit dem zuvor ermittelten Schutzbedarf abgeglichen. Ein KI-System besteht die Prüfung, wenn es für jedes Kriterium je Qualitätsdimension das festgelegte Prüfziel erreicht. Dies dokumentiert, dass die Qualitätsmaßnahmen und deren Nachweise den identifizierten Schutzbedarfen in ausreichendem Maße entsprechen.

Die erfolgreiche Prüfung bestätigt somit, dass das KI-System die notwendigen Qualitätsanforderungen erfüllt und die erforderlichen Maßnahmen implementiert hat. Dieser Prozess gewährleistet eine gründliche Evaluation und schafft Transparenz hinsichtlich der Qualität der geprüften KI-Systeme.

3. Vorteile für KI-Anwender und Betreiber

Der MISSION KI Qualitätsstandard bietet klare Vorteile für KI-Anbieter und KI-Betreiber.

KI-Anbieter profitieren von einem effizienten Qualitätsnachweis, der für große Unternehmen und Start-ups gleichermaßen nutzbar ist. Dies verbessert ihre Wettbewerbsfähigkeit, da sie sich durch objektiv vergleichbare Qualitätskriterien am Markt abheben können. Zudem legen KI-Anbieter mit dem MISSION KI Qualitätsstandard schon früh den Grundstein, um die Anforderungen des EU AI Acts zu erfüllen. Das ist besonders hilfreich, falls sich der Einsatzbereich ihres KI-Systems so ändert, dass es später als Hochrisiko-KI-System eingestuft wird.

KI-Betreiber wiederum profitieren von höherer Markttransparenz und vergleichbarer Qualität der eingesetzten KI-Systeme. Dies stärkt auch das Vertrauen der Endnutzer*innen in die Technologie und erhöht so die gesellschaftliche Akzeptanz für Künstliche Intelligenz.

Eine Win-Win-Situation, die die Entwicklung eines robusten und vertrauenswürdigen KI-Ökosystems in Europa vorantreibt.

Häufige Fragen

Warum ist der Standard freiwillig?

Der Standard ist freiwillig, das heißt nicht gesetzlich vorgeschrieben, sondern fungiert bei Erfüllung als ein Signal für die Qualität des KI-Systems. Eine Erfüllung des Standards muss durch seine wirtschaftlichen Mehrwerte motiviert sein. Er bietet Unternehmen die Möglichkeit, Markttransparenz nach einheitlichen Vorgaben zu schaffen und so einen Wettbewerbsvorteil zu erlangen. Abnehmer sowie Endnutzerinnen und Endnutzer profitieren ebenfalls – für sie wird ein erfolgreich geprüftes KI-System vertrauenswürdiger. Gleichzeitig ist der Standard so konzipiert, dass er inhaltlich als eine Orientierungshilfe für die Erfüllung wichtiger regulatorischer Vorgaben wie dem EU AI Act oder internationaler Standards dient.

Was bedeutet "anschlussfähig an die KI-Verordnung"?

"Anschlussfähig an die KI-Verordnung" bedeutet, dass der Standard mit der europäischen KI-Verordnungen kompatibel ist. Obwohl der Standard tiefer ins Detail geht als die abstrakten regulatorischen Anforderungen, macht er dennoch Vorgaben, die sich inhaltlich auf den Gesetzestext beziehen. Weiterhin stehen die Vorgaben des Qualitätsstandards nicht im Widerspruch zur KI-Verordnung. Unternehmen können sich daher am Standard orientieren, um daran anknüpfend ein effektives KI-Compliance-Management aufzubauen. Gleichzeitig ist es aufgrund der Kompatibilität möglich, bei Erfüllung der gesetzlichen Anforderungen oder etablierter Standards auch von einem einfacheren Erreichen des Qualitätsstandards auszugehen. Auch über die KI-Verordnung bspw. bei der sektoralen Regulierung wird in der Entwicklung des Standards auf die Anschlussfähigkeit geachtet.

Wie profitieren Unternehmen von diesem Standard?

Unternehmen profitieren in vielerlei Hinsicht. Ein KI-Anbieter steigert seine Wettbewerbsfähigkeit und kann die Qualität seiner KI-Systeme vermitteln bzw. nachweisen. Ein KI-Betreiber als Abnehmer von KI-Systemen erhält Transparenz und kann sich beim Einsatz des KI-Systems auf seine Qualität verlassen. Zudem werden verlässliche und nachvollziehbare Entwicklungsprozesse gefördert. Insgesamt stärkt die Einhaltung des Standards den Aufbau vom Vertrauen im Markt.

Wie wird die Aktualität des Standards sichergestellt?

Künstliche Intelligenz ist eine sehr dynamische und sich ständig weiterentwickelnde Technologie, daher ist die Sicherstellung der Aktualität des Standards von großer Bedeutung. Die Aktualität wird gewährleistet, indem der Standard modular entwickelt ist und hinreichend abstrakte Vorgaben macht. Das heißt zum einen, dass das Prüfverfahren, die Beschreibungsvorlagen, die Schutzbedarfsanalyse, die Prüfkriterien, Testmethoden und Prüfwerkzeuge separat aktualisiert werden können, ohne die Validität der einzelnen Teile zu gefährden. Auf der anderen Seite erhöht eine technisch agnostische Formulierung der Prüfkriterien, dass auch neue KI-Methoden und -Weiterentwicklungen zukünftig im Rahmen des Standards abgedeckt werden können. Dadurch bleibt der Standard global einsetzbar und kompatibel mit den sich ständig weiterentwickelnden KI-Systemen.

Welche Rolle spielen ethische Prinzipien im Standard und wie werden sie praktisch umgesetzt?

Ethische Prinzipien spielen eine zentrale Rolle im Standard. Sie gewährleisten, dass KI-Systeme verantwortungsvoll und zum Wohle der Gesellschaft entwickelt und eingesetzt werden. Der Standard orientiert sich an den ethischen Leitlinien der HLE für KI und umfasst bspw. explizit Maßnahmen zur Gewährleistung von Transparenz, Erklärbarkeit, Nicht-Diskriminierung, menschlicher Aufsicht und dem Schutz personenbezogener Daten, um sicherzustellen, dass KI-Systeme ethische Grundsätze einhalten. Die Berücksichtigung ethischer Prinzipien stärkt auch das Vertrauen der Nutzer*innen und der Öffentlichkeit in KI-Technologien und trägt dazu bei, potenzielle Risiken und negative Auswirkungen zu minimieren.

Wie hängt der KI-Qualitätsstandard mit weiteren Regularien und Standards zusammen?

Der KI-Qualitätsstandard ist eng mit weiteren Regularien und Standards verknüpft. Er dient als praxisorientierte Ergänzung und Konkretisierung zu bestehenden gesetzlichen Vorgaben, internationalen Normen und Prüfkriterienkatalogen, wie beispielsweise dem EU AI Act, dem Fraunhofer KI-Prüfkatalog, der VDE Spec 90012 oder Standards des ISO/IEC JTC 1/SC 42. Der Standard bietet eine Orientierungshilfe für Unternehmen, um die Einhaltung regulatorischer Anforderungen zu erleichtern. Gleichzeitig stellt er sicher, dass die KI-Systeme in Übereinstimmung mit globalen Best Practices und ethischen Prinzipien entwickelt und betrieben werden. Durch die Kompatibilität mit anderen Regularien (z.B. DSGVO oder MDR) und Standards unterstützt der KI-Qualitätsstandard Unternehmen dabei, ihre Prozesse zu harmonisieren und eine konsistente und vertrauenswürdige Implementierung von KI-Technologien zu gewährleisten.

Was ist der Unterschied zwischen Hochrisiko-KI und anderen KI-Systemen im Kontext von MISSION KI?

Hochrisiko-KI wird bereits durch umfassende und strenge Anforderungen der KI-Verordnung reguliert. Der KI-Qualitätsstandard ist nicht auf einen bestimmten Risikobereich von Systemen beschränkt und legt den Fokus auf praxisbezogene, konkrete Vorgaben, die jedoch weniger umfassend sind als die der KI-Verordnung. Gleichzeitig bietet er eine Orientierungshilfe zur Einhaltung der Verordnungen, da er inhaltlich anschlussfähig an die KI-Verordnung ist. Auch abseits der Hochrisiko-KI-Systeme soll es durch den KI-Qualitätsstandard möglich sein, die Qualität einer KI sicherzustellen und transparent zu vermitteln. Der Standard schafft somit eine Grundlage für Vertrauen und Transparenz auch in Bereichen, die nicht durch regulatorische Anforderungen abgedeckt sind.

Wer führt die Prüfungen durch und wie wird die Unabhängigkeit sichergestellt?

Die Prüfungen werden je nach Prüftiefe entweder von internen oder externen Prüferinnen durchgeführt. Prüferinnen müssen bereits umfassende professionelle Erfahrung in der Entwicklung oder Prüfung von KI- bzw. IT-Systemen mit entsprechender Zertifizierung mitbringen.

Die Unabhängigkeit wird dadurch gewährleistet, dass interne Prüfer*innen nicht an der Entwicklung des Systems beteiligt waren und aus einer unabhängigen Abteilung stammen müssen. Externe Prüferinnen müssen unter anderem finanziell unabhängig vom Anbieter des KI-Systems sein und sich registrieren.

Wie unterscheidet sich MISSION KI von anderen internationalen KI-Standards oder -Richtlinien?

MISSION KI zeichnet sich durch seine praktische Anwendbarkeit und konkreten Leitlinien für die Implementierung von KI-Systemen aus. Der Standard bietet auch für nicht-regulierte KI-Systeme eine Möglichkeit, Qualität und Vertrauenswürdigkeit effektiv darlegen zu können. Die Prüfkriterien wurden auf Basis des aktuellen Stands (state-of-the-art) erstellt und können auf vielfältige Anwendungsfälle bezogen werden. Außerdem hebt sich der Qualitätsstandard auch eine Sammlung von konkreten Testmethoden und Prüfwerkzeugen von vergleichbaren Prüfstandards ab.