Qualität sichtbar machen: Franziska Weindauer über den Weg zu verlässlicher Niedrigrisiko-KI
Künstliche Intelligenz hält in immer mehr Unternehmensprozessen Einzug – doch wie lässt sich ihre Qualität verlässlich bewerten, insbesondere dort, wo keine gesetzlichen Vorgaben greifen? Gemeinsam mit Partnern aus Forschung und Industrie entwickelt MISSION KI einen freiwilligen Qualitätsstandard für Niedrigrisiko-KI, der Orientierung schafft und Unternehmen ein strukturiertes Verfahren an die Hand gibt.
Eine Schlüsselrolle spielt dabei das TÜV AI Lab. Im Gespräch erläutert Franziska Weindauer, CEO des TÜV AI Lab, warum ein solcher Standard gerade jetzt wichtig ist, welche Anforderungen aus Prüfsicht entscheidend sind und wie ein Ansatz entstehen kann, der sowohl belastbar als auch praxistauglich ist – für große Organisationen ebenso wie für Startups und Mittelstand.
Frau Weindauer, das TÜV AI Lab war aktiv an der Entwicklung des MISSION KI-Qualitätsstandards beteiligt. Welche Rolle haben Sie und Ihr Team dabei konkret übernommen – und warum war das für Sie ein wichtiger Schritt?
Wir haben im TÜV AI.Lab vor allem zwei Beiträge geleistet: Erstens haben wir unsere Prüfperspektive eingebracht. Also die Frage, wie Anforderungen an vertrauenswürdige KI so formuliert werden können, dass sie später auch wirklich prüfbar und praktikabel sind. Zweitens haben wir unsere Erfahrung aus Konformitätsbewertung, Testverfahren und Risikomanagement in die Standardentwicklung übersetzt. Dabei ging zum Beispiel darum, die Prüfdurchführung vorzubereiten. Welche Prüfkriterien werden angesetzt? Welche Werkzeuge können für die Prüfung genutzt werden?
Wichtig war dieser Schritt, weil Niedrigrisiko-KI in der Regulierung kaum adressiert wird, aber in der Praxis den Großteil der eingesetzten Systeme ausmacht. Doch auch hier müssen wir Qualität frühzeitig messbar machen. So verhindern wir, dass Vertrauensprobleme erst dann entstehen, wenn ein System bereits breit im Markt ist. Der Standard schließt eine Lücke zwischen freiwilligen Qualitätsinitiativen und den verbindlichen Anforderungen der KI-Verordnung – und gibt gerade dem Mittelstand ein handhabbares Instrument an die Hand.
Der Qualitätsstandard will Vertrauen messbar machen. Wie übersetzen Sie diesen Anspruch in die Praxis?
Mit dem Mission KI Qualitätsstandard arbeiten wir sehr praxisnah: Für jedes System wird eine sogenannte Schutzbedarfsanalyse in verschiedenen Dimensionen, wie zum Beispiel Transparenz oder Verlässlichkeit, durchgeführt. Diese besteht aus einfachen Fragen und vorgegebenen Antwortmöglichkeiten, die Werte von 1 bis 3 übertragen werden. Daraus berechnet sich automatisch der Schutzbedarf in jeder Dimension.
Daraus leiten wir dann ab, welche Handlungen ein Anbieter durchführen muss, um dem jeweiligen Schutzbedarf gerecht zu werden und welche Nachweise er dafür erbringen kann. Das können technische Evidenzen sein, etwa Testergebnisse zur Robustheit, Genauigkeit oder Cybersicherheit, aber auch organisatorische Evidenzen wie Dokumentation, Governance oder menschliche Kontrollmechanismen.
Entscheidend ist: Wir prüfen nicht nur technologische Einzelteile, sondern immer das gesamte System. Nur so entsteht ein analytisches Gesamtbild, das später nachvollziehbar berichtet werden kann.
Wie stellen Sie sicher, dass der Standard in der Praxis funktioniert – gerade für Mittelständler oder Startups, die keine großen Compliance-Teams haben?
Das war von Anfang an ein Kernziel. Der Standard ist skalierbar aufgebaut: je höher der Schutzbedarf, desto substanzieller die Prüftiefe. Denn: Entwickelt ein Startup Produkte mit hohem Schutzbedarf, steigen damit natürlich auch die Anforderungen und der damit verbundene Aufwand zur Qualitätssicherung. Die Anpassungsfähigkeit an die unterschiedlichen Schutzbedarfe von KI-basierten Produkten bildet die Vielfalt der Technologie ab und erlaubt trotzdem valide Aussagen zur Qualität der Systeme.
Außerdem ist die Sprache des Standards bewusst pragmatisch. Nach dem Motto, keine Bürokratie, sondern Orientierung, legen wir großen Wert auf klare und handhabbare Anforderungen.
Für Startups und den Mittelstand ist besonders wichtig, dass der Standard ihnen ermöglicht, früh Qualität aufzuzeigen. Das verschafft ihnen echte Wettbewerbsvorteile.
Deutschland will im Bereich der künstlichen Intelligenz international eine wichtigere Rolle spielen. Wie können Standardisierung und Prüfkompetenz diesen Anspruch stärken?
Standardisierung ist das Fundament internationaler Wettbewerbsfähigkeit. Wer Standards setzt, gestaltet Märkte. Das gilt für KI noch stärker als in klassischen Technologien, weil hier die Entwicklung so schnell voranschreitet. Prüfkompetenz sorgt dabei dafür, dass diese Standards nicht nur auf dem Papier stehen, sondern in der Praxis verlässlich umgesetzt werden. Genau da liegen traditionelle Stärken der deutschen TIC-Landschaft. Sie ist bekannt für ihre Neutralität, technisches Know-how und Markenzeichen der Qualitätssicherung.
Wenn wir diese Kompetenzen in die KI-Welt übertragen – etwa durch Tests für Robustheit, Transparenz oder Datengovernance –, entsteht ein klarer Mehrwert für Hersteller. Unternehmen können die Qualität ihrer Produkte untersuchen, darstellen und Risiken früh erkennen. Das stärkt nicht nur einzelne Unternehmen, sondern die strategische Position Europas als Standort für vertrauenswürdige KI insgesamt.
Was hat Sie persönlich an diesem Prozess am meisten geprägt oder überrascht?
Mich hat beeindruckt, wie heterogen die Systeme im Niedrigrisiko-Bereich sind und wie wichtig es deshalb ist, ein Prüfverfahren zu haben, das flexibel bleibt und trotzdem klare Orientierung gibt. Der enge Austausch zwischen Wissenschaft, Wirtschaft und Prüforganisationen im Rahmen von Mission KI hat gezeigt, wie viel Innovationspotenzial entsteht, wenn man Qualitätsfragen früh mitdenkt.
In Ihrem Blick: Wie weit sind wir europäisch gesehen bei der Harmonisierung von KI-Standards und wo müssen wir noch nachlegen?
Europa ist auf einem guten Weg. Die KI-Verordnung schafft erstmals ein einheitliches Rechtsfundament. Parallel entstehen auf europäischer und internationaler Ebene zahlreiche Normen im Rahmen von z.B. CEN/CENELEC-Normungsgremien oder bei ISO und IEC. Wir wünschen uns hier schnellen Fortschritt. Denn: Zwischen Gesetzestext und Ingenieurpraxis klafft oft eine Lücke. Hier braucht es mehr abgestimmte Prüfmethoden, Benchmarks und Testverfahren, die europaweit akzeptiert sind. Dafür sind etablierte Standards als erster Schritt entscheidend.
In Ihrem Blick: Wie weit sind wir europäisch gesehen bei der Harmonisierung von KI-Standards und wo müssen wir noch nachlegen?
Ich gehe davon aus, dass wir ein zweigeteiltes System sehen werden: Erstens ein stark formalisiertes Regime für Hochrisiko-KI, inklusive Konformitätsbewertung und Marktüberwachung. Zweitens ein wachsendes Ökosystem freiwilliger Prüfungen für Niedrigrisiko-KI. So ähnlich wie wir das bereits aus der IT-Sicherheit oder dem Datenschutz kennen.
Prüforganisationen werden zunehmend als „Übersetzer“ zwischen Regulierung und technischer Praxis fungieren und KI-Tests werden stärker automatisiert und skalierbar sein. Kurz gesagt: Die Prüflandschaft wird digitaler und dynamischer.
