Trust in What Matters – Responsible AI

Mit „Trust in What Matters“ stellen wir den Vertrauensaufbau in der Geschäftswelt in den Fokus. Welche Rolle spielt der Aspekt Vertrauen beim Thema Responsible AI? 

Hendrik Reese: Wenn wir von Responsible AI sprechen, sprechen wir auch immer von Trustworthy AI. Denn entscheidend dafür, dass Unternehmen eine Technologie wie AI annehmen und in den Arbeitsalltag implementieren, ist, dass Nutzer:innen sie als sicher und zuverlässig einstufen. Es braucht also Vertrauen nicht nur in den Mehrwert der Technologie, sondern auch in ihre Funktionsweise. Der Weg dorthin führt über transparente Kommunikation, einheitliche Standards, deren Einhaltung und natürlich schlussendlich greifbare Anwendungsfälle, die zeigen, dass sich die Transformation lohnt. 

Transformationen finden gerade überall statt, Stichwort ESG, regulatorische und natürlich auch KI-Themen. Vor welchen Herausforderungen stehen Unternehmen in diesem Bereich? 

Reese: Die Umstellung hin zum Einsatz von KI erfordert natürlich erstmal einen zeitlichen, finanziellen und personellen Invest. 

Alle Mitarbeitenden sind mindestens mit den Grundlagen der Technologie vertraut, sehen die Vorteile der KI-Systeme und sind darin geschult, wie sie datenschutzkonform handeln. Und Firmen müssen die passende Infrastruktur schaffen – in Form von Zugängen, Schulungen, Sicherheitsstrategie. 

Als weltweit erstes Gesetz in dieser Form soll der EU AI Act den Einsatz von KI insgesamt sicherer machen. Dazu werden KI-Systeme zukünftig anhand eines risikobasierten Ansatzes kategorisiert und geprüft, dass KI-Systeme gewisse, europaweite Standards eingehalten werden. So soll beispielsweise verhindert werden, dass diskriminierende Inhalte reproduziert werden. 

Für Unternehmen bedeutet das Gesetz einerseits mehr Sicherheit bei der Auswahl der Anwendungen, zugleich aber auch, dass sie Umsetzungsfristen im Blick behalten müssen. Je nach Risikoklasse der Systeme bleiben Firmen sechs bis 36 Monate, um risikoreiche KI-Lösungen auszuwechseln bzw. insbesondere Compliance mit den Anforderungen des AI Acts sicherzustellen. Diese Regelung betrifft dabei den gesamten Lebenszyklus. Stichwort: Governance. 

Welche Fragen sollten sich Unternehmen jetzt stellen, um im Bereich Responsible AI zukunftsfähig aufgestellt zu sein? 

Reese: Wer hohe Geldstrafen und Haftungsrisiken vermeiden will, sollte sich an die Fristen des EU AI Acts halten. Aber insbesondere auch aus Wettbewerbsgründen sollten Unternehmen sich aktiv darum kümmern, wie sie KI in ihren Alltag implementieren können. Wie weit sind wir überhaupt mit unserer KI-Implementierung? Wo gibt es Lücken? Wie schaffen wir im Team das nötige Vertrauen in die Technologie? Welche bestehenden Ressourcen können wir für die Transformation nutzen, wo müssen wir nachschärfen? 

Es gibt für Unternehmen also viel zu beachten. Wie unterstützen wir bei PwC unsere Mandanten im Bereich Responsible AI ganz konkret beim Vertrauensaufbau? 

Reese: Weil wir bei PwC das Potenzial von KI kennen, helfen wir unseren Mandanten entlang der Transformation. Das lässt sich in verschiedene Bereiche einteilen. 

Governance: Wir analysieren Prozesse, Technologien und Organisation unserer Mandanten. Wir schaffen ein effektives AI Target Operating Model. Und analysieren basierend auf entsprechenden Regularien, Standards, Anforderungskatalogen u. umfassenden Best Practices. Wo nötig, setzen wir auch Maßnahmen ein, um Prozesse entlang des KI-Lebenszyklus zu etablieren. 

Technology: Die Transformation erfordert robuste Tools, ein passendes Lifecycle- und Use Case Management (inkl. KI-Risikomanagement) sowie Ansätze zur KI-Validierung. Dazu definieren wir gemeinsam individuelle KPIs, etablieren einheitliche Prozesse, Kontrollen und Best Practices für KI-Projekte. Und denken dabei den EU AI Act immer mit. 

Compliance: Wir prüfen mit entsprechenden Anforderungskatalogen, ob die KI-Services unserer Mandanten standardkonform sind. Wir testen und attestieren zudem interne KI-Kontrollsysteme mit Berichterstattung gemäß ISAE 3000. 

Legal: Unsere Rechtsberatung deckt Fragestellungen rund um den Einsatz von KI ab: ob Datenschutz, rechtliche Use-Case-Bewertung oder das Prüfen von Haftungsrisiken. Wir haben die rechtlichen Anforderungen im Blick und konzipieren bei Bedarf entsprechende Maßnahmen zur internen Umsetzung. 

Expertise aus CertifAI: Wir integrieren die Value Chain von der Strategie- über die Technologie- und Complianceberatung (PwC) bis in die Zertifizierung (CertifAI). Unser KI-Joint-Venture mit der DEKRA und der Stadt Hamburg befasst sich damit, KI-Modelle in risikoreichen Umfeldern von physischen Produkten zu prüfen, zu zertifizieren und technologische Lösungen für die Automatisierung dieser Prozesse zu entwickeln.