Case Study „MISSION KI“

Die Situation

Künstliche Intelligenz (KI) ist aus dem privaten und beruflichen Kontext kaum mehr wegzudenken. Und die weltweiten Investitionen in neue KI-Anwendungen steigen weiter rapide an. KI hat somit nicht nur das Potenzial, die unternehmerische Effizienz zu steigern, sondern auch das Wirtschaftswachstum anzukurbeln. Doch wie bei jeder neuen Technologie stehen den großen Chancen zahlreiche Risiken gegenüber. So zeigen Umfragen, dass ein Großteil der Unternehmen befürchtet, durch den Einsatz von KI neuen IT-Sicherheitsrisiken ausgeliefert zu sein.

KI wird in immer größerem Umfang und zunehmend auch in kritischen Bereichen wie der Finanzberichterstattung oder der medizinischen Diagnoseunterstützung eingesetzt. Dadurch entstehen neue Risiken, die Unternehmen in die Pflicht nehmen, sicherere und verantwortungsvolle KI-Systeme zu entwickeln und einzusetzen. Zudem nehmen die regulatorischen Vorgaben, wie der EU AI Act, zu und verpflichten Unternehmen dazu, KI-Governance-Maßnahmen zu etablieren. Bei Nichteinhaltung dieser Vorschriften drohen erhebliche Bußgelder oder rechtliche Maßnahmen.

Vor diesem Hintergrund braucht es dringend Prozesse und Methoden, die zur Erfüllung von KI-Qualitätszielen beitragen. Für die Umsetzung vertrauenswürdiger KI-Systeme benötigen Unternehmen Frameworks, an denen sie sich orientieren können. Die Erarbeitung eines solchen Rahmenwerks hat PwC in vielen vergangenen Projekten vorangetrieben. Dieses Wissen diente nun der Entwicklung eines KI-Qualitätsstandards im Rahmen der MISSION KI.

Unser Ansatz

Um die Risiken im Zusammenhang mit KI anzugehen und einen Mindeststandard für Künstliche Intelligenz zu entwickeln, hat die Bundesregierung eine nationale Initiative für Künstliche Intelligenz und Datenökonomie ins Leben gerufen: die MISSION KI. Dieses Projekt baut auf der Datenstrategie der Bundesregierung auf und wird maßgeblich durch acatech – Deutsche Akademie der Technikwissenschaften vorangetrieben. Ziel ist es, einen Qualitätsstandard für Künstliche Intelligenz zu etablieren, der sich im internationalen Wettbewerb behaupten kann. MISSION KI soll dazu beitragen, KI-Innovationen schnell, sicher und skalierbar aus der Forschung auf den Markt und in die Anwendung zu bringen.

Um das Projekt umzusetzen, hat PwC eine Angebotspartnerschaft aus Expert:innen im Bereich KI-Prüfung und -Zertifizierung zusammengestellt. Die Angebotspartner verbinden Expertise aus allen relevanten Bereichen – von der Forschung über die Standardisierung und Prüfung zur Governance- und Compliance-Beratung – um die ambitionierten Projektziele zu erreichen. Neben PwC sind das TÜV AI.Lab, der VDE Verband der Elektrotechnik Elektronik Informationstechnik, CertifAI, AI Quality & Testing Hub und das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) beteiligt.

Risikolücken schließen, einheitliche Vorgaben etablieren 

MISSION KI verfolgt das Ziel, die bis dato bestehende Risikolücke auch über bereits regulierte Bereiche hinaus durch die Entwicklung einheitlicher KI-Qualitätsanforderungen zu füllen. Die Initiative fußt auf drei Säulen, die die Rahmenbedingungen für weiteren technologischen Fortschritt mit Künstlicher Intelligenz geben sollen: Säule 1 befasst sich mit der sektorübergreifenden Vernetzung von Datenräumen, Säule 2 mit der Entwicklung transparenter KI-Qualitätsstandards- und Prüfansätze, und Säule 3 mit der Unterstützung von KI-Innovationen.

Das Projektteam von PwC ist für die Aufgaben aus Säule 2 verantwortlich. In diesem Teilprojekt werden das Zielbild und die konkreten Arbeitspakete für einen KI-Standard definiert, um eine einheitliche Vision zu etablieren. Anschließend werden KI-Qualitäts- und Prüfkriterien praxisnah entwickelt, erprobt sowie schließlich am Markt etabliert.

In vier Arbeitspaketen arbeiten die PwC-Expert:innen mit Partnerorganisationen daran, einen KI-Qualitätsstandard zu entwickeln, zu erproben und zu validieren, um das Vertrauen in KI-Systeme in Zukunft nachhaltig zu stärken. Das Projekt begann Anfang 2024 und wird sich bis Ende 2025 erstrecken.

Der Mehrwert

Eine erste Version des freiwilligen KI-Mindeststandards wurde im Oktober 2024 auf dem Digitalgipfel der Bundesregierung in Frankfurt am Main vorgestellt. Der von MISSION KI entwickelte Qualitätsstandard stärkt die Vertrauenswürdigkeit von KI-Systemen und dient als Orientierungshilfe für die Erfüllung der regulatorischen Anforderungen, wie der des EU AI Act, ohne die Innovationskraft zu hemmen. Um den Mindeststandard prüfbar zumachen, übersetzt dieser abstrakte Qualitätswerte in konkrete Anforderungen.

Anbieter und Betreiber profitieren gleichermaßen

Ziel des Qualitätsstandards ist es, das Vertrauen der Anwender in KI-Technologien zu stärken. Zum anderen soll er Wettbewerbsvorteile für KI-Anbieter schaffen, die den Standard anwenden und Verlässlichkeit für KI-Betreiber, die die KI-Komponenten einsetzen.

Vorteile für die KI-Betreiber:

• Vertrauen: KI-Nutzer profitieren von einer höheren Markttransparenz und Zuverlässigkeit der eingesetzten KI-Systeme.
• Wirtschaftlichkeit: Der KI-Qualitätsstandard hat die wirtschaftlichen Interessen der Geschäftsfunktionen im Blick und fördert dadurch den wirtschaftlichen Erfolg eines Unternehmens. 
• Effizienz: Der Qualitätsstandard soll durch effiziente Prüfprozesse dazu beitragen, dass KI-Systeme auch trotz gründlicher Prüfung schnell eingeführt werden können.

Vorteile für die KI-Anbieter:

• Breite Anwendung: Anbieter können von einem effizienten Qualitätsnachweis profitieren, der für große Unternehmen sowie für Start-ups gleichermaßen nutzbar ist.
• Verlässlichkeit: Die bestandene Prüfung stärkt das Vertrauen in das geprüfte KI-System und trägt dazu bei, die Markttransparenz zu verbessern. 
• Wettbewerbsfähigkeit: Unternehmen, die den Standard verwenden, können sich durch vergleichbare Qualitätskriterien positiv am Markt abheben und so ihre Wettbewerbsfähigkeit verbessern