Generative KI bei SAP: Risiken minimieren, Potenziale maximieren

Generative künstliche Intelligenz verändert aktuell die Art und Weise, wie Unternehmen arbeiten – und auch wie SAP-Lösungen entwickelt und eingesetzt werden. Für Unternehmen bedeutet das enorme Chancen, gleichzeitig entstehen neue Herausforderungen rund um Ethik, Datenschutz und Vertrauen.

Beim Treffen des SAP AI Ethics Advisory Panels im SAP-Hauptsitz in Walldorf begrüßte Daniel Schmid, Chief Sustainability Officer von SAP, internationale Expertinnen und Experten, um genau diese Fragen zu diskutieren: Wie kann generative KI verantwortungsvoll eingesetzt werden – und wie lassen sich Risiken minimieren?

Die rasante Entwicklung generativer KI – beispielsweise demonstriert mit den generativen Funktionen in SAP SuccessFactors für HR-Daten – sorgt dafür, dass viele Unternehmen diese Fähigkeiten möglichst schnell in ihre SAP-Landschaft integrieren möchten.

Für SAP besteht die Herausforderung darin, diesen Bedarf zu erfüllen und gleichzeitig sicherzustellen, dass generative KI nicht nur effizient, sondern auch nachhaltig, verantwortungsvoll und vertrauenswürdig eingesetzt wird.

Das SAP AI Ethics Advisory Panel

SAP war eines der ersten großen europäischen Technologieunternehmen, das bereits vor fünf Jahren ein unabhängiges Gremium für KI-Ethik gegründet hat. Das SAP AI Ethics Advisory Panel besteht aus internationalen Expertinnen und Experten aus Wissenschaft, Technologie und Politik.

Das Panel tagt zweimal jährlich und wird von Thomas Saueressig, Vorstandsmitglied der SAP SE und Leiter SAP Product Engineering, unterstützt. Gemeinsam mit dem SAP AI Global Ethics Steering Committee diskutieren die Mitglieder aktuelle ethische Fragestellungen rund um künstliche Intelligenz und identifizieren mögliche Risiken zukünftiger Entwicklungen.

Zu den Panelmitgliedern zählen unter anderem:

• Peter Dabrock – Professor für Systematische Theologie (Ethik), Universität Erlangen
• Susan Liautaud – Dozentin für Public Policy und Recht, Stanford University
• Nicholas Wright – Berater für intelligente Biologie und Forscher am Georgetown University Medical Center
• Paul Twomey – Mitbegründer von ICANN und Co-Founder von STASH
• Emma Ruttkamp-Bloem – Professorin und Leiterin der Philosophieabteilung an der University of Pretoria

Das Büro des Chief Sustainability Officers organisiert das Treffen und verantwortet den Governance-Prozess für KI-Ethik bei SAP. Ziel ist es, eine unabhängige Kontrolle zu gewährleisten und gleichzeitig sicherzustellen, dass globale Menschenrechtsstandards eingehalten werden.

Tag 1: Risiken generativer KI verstehen

Der erste Konferenztag konzentrierte sich auf konkrete Anwendungsfälle mit generativer KI innerhalb von SAP-Lösungen. Im Mittelpunkt standen dabei insbesondere mögliche Risiken für Nutzerinnen und Nutzer sowie für Unternehmen.

Die Expertinnen und Experten diskutierten unter anderem folgende Fragen:

• Wie gut ist die Identität von Nutzerinnen und Nutzern geschützt?
• Werden Anwender ausreichend darüber informiert, was eine KI-Anwendung leisten kann – und was nicht?
• Wie wird Einwilligung und Datenschutz gewährleistet?
• Welche Risiken entstehen durch falsche oder fehlerhafte Informationen?
• Wer trägt rechtliche Verantwortung bei KI-gestützten Entscheidungen?
• Wie lassen sich Unternehmensdaten, Reputation und Kundendaten schützen?

SAP bewertet derzeit alle generativen KI-Anwendungsfälle grundsätzlich als Hochrisiko-Use-Cases. Gründe dafür sind unter anderem technische Einschränkungen wie sogenannte „Halluzinationen“ von KI-Systemen, hoher Trainingsaufwand sowie komplexe Betriebsanforderungen.

Zusätzlich bestehen Risiken durch mögliche Verzerrungen (Bias) in den Ergebnissen, missbräuchliche Nutzung von Modellen sowie rechtliche Unsicherheiten im Bereich Urheberrecht und geistiges Eigentum.

Aus diesem Grund werden alle Hochrisiko-Anwendungen intensiv geprüft. Erst nach Bewertung durch das SAP AI Global Ethics Steering Committee kann die Entwicklung weitergeführt werden.

Besonders kritisch sind Anwendungsbereiche, die sensible Daten verarbeiten oder weitreichende Entscheidungen treffen. Dazu gehören beispielsweise:

• Personalwesen und Recruiting
• Gesundheitswesen
• Strafverfolgung
• Demokratische Prozesse
• Automatisierte Entscheidungsfindung

Tag 2: Das Potenzial verantwortungsvoller KI erschließen

Der zweite Tag des Treffens beschäftigte sich mit der strategischen Ausrichtung von SAP im Bereich generativer KI sowie mit dem Zusammenhang zwischen Menschenrechten und künstlicher Intelligenz.

Ein zentraler Bestandteil des SAP-Ethikrahmens ist die Qualifizierung der Mitarbeitenden. Ziel ist es, Teams mit dem notwendigen Wissen, den richtigen Tools und klaren Prozessen auszustatten, um fundierte Entscheidungen über den Einsatz von KI treffen zu können.

Das Panel gab zudem Feedback zu neuen Initiativen, mit denen SAP ethische Prinzipien noch stärker in der Unternehmenskultur verankern möchte.

Die Expertinnen und Experten kamen zu dem Schluss, dass das volle Potenzial generativer KI nur dann ausgeschöpft werden kann, wenn Risiken frühzeitig erkannt und verantwortungsvoll gemanagt werden. Das Governance-Framework von SAP sei dafür gut aufgestellt.

Die Ergebnisse des Panels werden anschließend an das SAP AI Global Ethics Steering Committee sowie an den Vorstand der SAP SE weitergegeben.

Interview: Warum Vertrauen die Grundlage für KI ist

Wie kann das Potenzial von KI vollständig genutzt werden?

Das Potenzial von KI kann nur dann vollständig ausgeschöpft werden, wenn sie breit akzeptiert und eingesetzt wird. Doch Akzeptanz entsteht nur durch Vertrauen – und Vertrauen entsteht nur durch verantwortungsvolle und ethisch gesteuerte KI.

Was bedeutet nachhaltige KI?

Nachhaltige KI ist immer auch ethische KI. Wenn Technologie nicht verantwortungsvoll eingesetzt wird, entstehen Reputationsschäden, rechtliche Konflikte und letztlich wirtschaftliche Nachteile für Unternehmen.

Wie integriert SAP KI-Ethik in seine Unternehmenskultur?

Nach Ansicht von Professorin Ruttkamp-Bloem verfügt SAP bereits über eine bemerkenswert ausgereifte Struktur für KI-Ethik. Viele Mitarbeitende beschäftigen sich intensiv mit Themen wie Bias, Identität oder Diskriminierung – oft auch über ihre klassische Software-Engineering-Ausbildung hinaus.

Im Vergleich zu vielen anderen Unternehmen nimmt SAP hier eine Vorreiterrolle ein. Laut Studien sprechen nur rund 22 % der Unternehmen überhaupt öffentlich über ethische Aspekte von KI.

Entscheidend ist jedoch, dass ethische Prinzipien nicht nur formuliert, sondern auch umgesetzt werden. Bei SAP kann es daher vorkommen, dass Projekte gestoppt oder neu bewertet werden, wenn ethische Risiken erkannt werden.

Welche Rolle spielen Menschenrechte bei KI?

Mit der wachsenden Zahl an KI-Anwendungen steigt auch das Risiko für Missbrauch oder negative Auswirkungen auf Menschen. KI basiert auf menschlichen Daten – und damit auch auf menschlichen Vorurteilen.

Algorithmen erkennen Muster in Daten. Wenn diese Daten Verzerrungen enthalten, können diese durch KI sogar verstärkt werden. Deshalb ist eine verantwortungsvolle Governance entscheidend, um Schäden für Einzelpersonen oder Gruppen zu vermeiden.

Warum ist die Sprache von KI-Prinzipien so wichtig?

Auch die Formulierung von ethischen Leitlinien spielt eine große Rolle für Vertrauen und Akzeptanz. Prinzipien müssen verständlich und kulturell anschlussfähig sein.

Unternehmen, die weltweit tätig sind, müssen sicherstellen, dass ihre ethischen Grundsätze in unterschiedlichen kulturellen Kontexten verständlich sind. Wenn Menschen die verwendete Sprache und Begriffe erkennen, fühlen sie sich stärker eingebunden – und Vertrauen entsteht leichter.

Fazit: Verantwortung als Grundlage für erfolgreiche KI

Generative KI wird die Zukunft von Unternehmenssoftware maßgeblich prägen. Damit Unternehmen das volle Potenzial dieser Technologie ausschöpfen können, sind Vertrauen, Transparenz und klare ethische Leitlinien unverzichtbar.

SAP setzt deshalb auf einen strukturierten Governance-Ansatz, unabhängige Expertenberatung und kontinuierliche Weiterbildung der eigenen Teams. Nur so lässt sich sicherstellen, dass innovative KI-Technologien nicht nur leistungsfähig, sondern auch verantwortungsvoll eingesetzt werden.