Direkt zum Inhalt
To Home
Zur Übersicht
v. l.: Dr. Maximilian Poretschkin (Fraunhofer IAIS),  Peyman Khodabakhsh, Simon Boffen, (beide MISSION KI), Hendrik Reese (PwC Deutschland); ©Svea Pietschmann
23.10.2024

Deutschlands Weg zu vertrauenswürdiger KI: MISSION KI präsentiert freiwilligen KI-Mindeststandard

Berlin, 23. Oktober 2024 – Normen und Standards sind entscheidend für den digitalen Fortschritt und um Vertrauen in die Nutzung neuer Technologien aufzubauen. Der EU AI Act definiert daher strenge Anforderungen an Hochrisiko-Systeme. Von vielen KI-Entwicklungen geht jedoch ein geringes Risiko aus. Um diesen Unternehmen gleichermaßen Orientierung für die Implementierung vertrauenswürdiger KI zu geben, hat die MISSION KI einen freiwilligen Mindeststandard entwickelt. Eine erste Version wurde auf dem Digitalgipfel der Bundesregierung am 21. Oktober 2024 in Frankfurt vorgestellt.

Der MISSION KI Mindeststandard fokussiert sich auf KI- Anwendungen unterhalb der Hoch-Risikoschwelle und ist anschlussfähig an die Anforderungen des EU AI Acts. Der Mindeststandard will somit Qualität und Vertrauenswürdigkeit sicherstellen, ohne Innovationen zu hemmen. Um den Mindeststandard prüfbar zumachen, übersetzt dieser abstrakte Qualitätswerte in konkrete Prüfverfahren. Ziel ist es zum einen das Vertrauen der Anwender in KI-Technologien zu stärken. Zum anderen soll er Wettbewerbsvorteile für KI-Anbieter schaffen, die den Standard anwenden und Verlässlichkeit für KI-Betreiber, die die KI-Komponenten einsetzen. Hierfür arbeitet MISSION KI mit den Partnern PwC Deutschland, TÜV AI.Lab, VDE Verband der Elektrotechnik Elektronik Informationstechnik, CertifAI, AI Quality & Testing Hub und dem Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS zusammen.

Der neue Mindeststandard bietet klare Vorteile: KI-Anbieter können von einem effizienten Qualitätsnachweis profitieren, der für große Unternehmen sowie für Start-ups gleichermaßen nutzbar ist. Da sich Unternehmen, die den Standard verwenden, durch vergleichbare Qualitätskriterien positiv am Markt abheben, können sie ihre Wettbewerbsfähigkeit verbessern. KI-Betreiber wiederum profitieren von einer höheren Markttransparenz und Zuverlässigkeit der eingesetzten KI-Anwendungen.

Manfred Rauhmeier, Vorsitzender der acatech Stiftung und Sekretär des acatech Koordinationskomitees: „Wir begrüßen es sehr, dass MISSION KI Anbietern einen Standard zur Verfügung stellt, der ihnen die Möglichkeit gibt, ihre KI-Anwendungen bereits im frühen Entwicklungsprozess vertrauenswürdig auszurichten, sozusagen ‚trustworthy by design‘. So erhalten sie einen Qualitätsnachweis und können sich hierdurch am Markt positionieren. Dies ist ein wichtiger Schritt, mit dem wir die Wettbewerbsfähigkeit unserer Unternehmen stärken.“

Hendrik Reese, PwC: „Während der EU AI Act erstmals weitgehend (Rechts-)Sicherheit für KI schafft, stehen Unternehmen oftmals vor der Frage, was die Anforderungen konkret bedeuten. Hier frühzeitig einen Orientierungsrahmen zu geben, entfaltet Dynamik für den KI-Markt in Europa. Auf Adoption kommt es jetzt an, um die wirtschaftlichen Potenziale zu entfalten. Prüfungen und Vertrauensnachweise in der Technologiewertschöpfungskette leisten überdies einen wichtigen Beitrag.

Der MISSION KI Mindeststandard  basiert auf den „Ethik-Leitlinien für eine vertrauenswürdige KI“, die durch die hochrangige Expertengruppe „HLEG-KI“, einberufen von der Europäische Kommission, festgelegt wurden. Die Expertengruppe hat zentrale Prinzipien definiert, die zur Bewertung der Vertrauenswürdigkeit von KI-Systemen dienen sollen. Das Aufgreifen dieser Prinzipien, zu denen Verlässlichkeit, KI-spezifische Cybersicherheit, Datenqualität, -schutz und -management, Nicht-Diskriminierung, Transparenz sowie menschliche Aufsicht und Kontrolle gehören, stellt die Anschlussfähigkeit des MISSION KI Mindeststandards an die europäische KI-Regulierung und Standardisierung sicher.In einem nächsten Schritt wird das Team den Standard sowie die damit verbundenen Prüfkriterien und -verfahren anhand bereits im Einsatz befindlicher KI-Anwendungen erproben. Durch die Erprobung wird sichergestellt, dass der Standard bedarfsorientiert und praxistauglich entwickelt wird. Die Entwicklung und Erprobung des Standards sollen bis Ende 2025 abgeschlossen werden.