KI-Governance: 10 konkrete Schritte zur Einführung in deinem Unternehmen

Du hast sicher bereits einige schwammige Beschreibungen zu dem Begriff KI-Governance gehört und online gelesen. Dieser Artikel ist anders! Wir werden dir konkrete Schritte an die Hand geben, wie du KI-Governance in deinem Unternehmen einsetzen kannst, und ganz klar erklären, was man unter KI-Governance versteht.

Als ganz grobe Zusammenfassung kann man sagen: KI-Governance ist der Überbegriff für einen sicheren Umgang mit künstlicher Intelligenz in deinem Unternehmen.

KI-Governance umfasst verschiedenste Bereiche, die wir in diesem Artikel genauer erklären: Datenqualität, Datenschutz, Risikoabwägung, Fairness & Verantwortlichkeiten.

Welche Probleme verhindert KI-Governance?

Doch lass uns erst einmal darauf eingehen, was wir mit KI-Governance verhindern möchten. In den meisten Firmen (vermutlich auch bei dir) passiert gerade Folgendes:

Seit dem November 2022 (dem Veröffentlichungsdatum von ChatGPT) ist künstliche Intelligenz in aller Munde. Die gesamte Welt spricht davon, wie KI Arbeitskräfte ersetzen wird, besser ist als der Mensch und insgesamt absolut magisch. Da deine Mitarbeitenden nicht von dem Hype abgehängt werden wollen, bilden diese sich in ihrer Freizeit durch kostenlose ChatGPT-Online-Schulungen weiter. Da KI ein mächtiger Helfer ist, setzen deine Mitarbeitenden KI-Werkzeuge im Arbeitsalltag ein und sind nun schneller und produktiver. Gut für dein Unternehmen? Grundsätzlich leider nicht. Du bist jetzt in die klassische Falle von Schatten-KI gelaufen. Das heißt, künstliche Intelligenz wird ohne dein Wissen eingesetzt, Daten werden unkontrolliert an externe Dienstleister weitergegeben und im Worst Case Urheberrechte und Persönlichkeitsrechte verletzt.

Und das ist nur eines der beiden Szenarien, die wir verhindern möchten. Beim zweiten geht es um den sicheren Einsatz von künstlicher Intelligenz. Vielleicht setzt du bereits (bewusst) künstliche Intelligenz in deinen Produktionsprozessen ein (z. B. um Ausschuss automatisiert zu erkennen). Das ist hervorragend und genau der richtige Schritt. Doch auch hier gibt es Probleme, die mit KI-Governance verhindert werden können:

Das System zur automatisierten Erkennung von Ausschuss wird nicht nur ein einziges Mal installiert, sondern muss sich kontinuierlich weiterentwickeln, um die richtigen Dinge zu erkennen. Dies geschieht, indem Mitarbeitende dem System Feedback geben zu Ausschuss, der nicht erkannt wurde (Fachbegriff: False-Negative) oder zu guten Ergebnissen, die fälschlich als Ausschuss markiert wurden (Fachbegriff: False-Positive). Beide Fälle können im Laufe der Einsatzzeit vermehrt auftreten und die Qualität des Systems verschlechtert sich ohne Rekalibrierung über die Zeit. Ohne klare Verantwortlichkeiten und Prozesse, wie das System kontinuierlich überwacht wird, wird es in absehbarer Zeit für dein Unternehmen nachteilige Ergebnisse produzieren.

Einfach gesagt: KI-Governance definiert Prozesse, um den Einsatz von künstlicher Intelligenz für dein Unternehmen positiv zu gestalten. Vertrauen ist gut, Kontrolle ist besser.

Bitte beachten: Dieser Artikel richtet sich an Firmen, die künstliche Intelligenz einkaufen und anwenden (kurz: KI-Anwender). Solltest du KI-Systeme für externe Partner entwickeln, sind andere Governance-Anforderungen gegeben, die wir in diesem Artikel nicht behandeln.

Wie hängen IT-Governance, Data-Governance und KI-Governance zusammen?

Viele Geschäftsführer haben den Eindruck, dass alle zwei Jahre eine neue "Governance-Initiative" erfunden wird, um Projekte zu verkaufen. Diese Perspektive ist verständlich, doch möchten wir betonen, dass KI-Governance tatsächlich etwas Neues ist. Die gute Nachricht: KI-Governance baut auf bestehenden IT- und Data-Governance-Praktiken auf. Es ist eine moderate Erweiterung der Prozesse, die du idealerweise bereits etabliert hast. Die ersten Schritte und der Gesamtaufwand zur Einführung einer effektiven KI-Governance sind sehr überschaubar.

Genauso bleibt zu sagen: Solltest du weder eine IT- noch eine Data-Governance-Strategie haben, solltest du erst diese beiden Themen angehen, bevor du dich mit KI-Governance beschäftigst.

Was sind die Kernelemente von KI-Governance?

Im Kern gibt es fünf Elemente, die KI-Governance ausmachen. Wie bereits erwähnt, wirst du vier davon bereits aus den Bereichen der IT- & Daten-Governance kennen: Datenqualität, Datenschutz, Risikoabwägung, Fairness, Verantwortlichkeiten.

Wenn du bereits (wie von uns empfohlen) eine IT-Governance-Struktur eingerichtet hast, wird dir das Implementieren von KI-Governance leichtfallen. Einzig die Säule “Fairness” ist ein Spezialfall für KI-Systeme.

Datenqualität

In Bezug auf Datenqualität im Unternehmen gilt “Shit in – Shit out”. Das heißt, dass die Ergebnisse von datengetriebenen Systemen (wie KI-Systeme es sind) zu sehr großen Teilen von den Daten abhängen, auf denen die Systeme basieren. In Bezug auf das derzeit bekannteste KI-System ChatGPT kann das so gedeutet werden: Wenn die Eingaben (Fachbegriff: Prompts) der Anwendenden schlecht sind, werden auch die Ergebnisse schlecht sein. Und sollten spezialisierte KI-Modelle zum Einsatz kommen, ist es essenziell, die Daten, auf denen die Modelle trainiert wurden, zu kontrollieren.

Aufgabe von KI-Governance ist es hierbei, einen Prozess und Kriterien zu definieren, anhand derer Datenqualität bewertet werden kann. Kriterien sind unter anderem:

Aktualität der Daten: Daten, die schon 10 Jahre alt sind, sind oftmals nicht mehr aussagekräftig für heute. Zusätzlich ist das Cutoff Date des jeweiligen KI-Systems zu beachten (z. B. kennen die Modelle hinter ChatGPT aus ihrem Training nur Daten bis zu einem bestimmten Stichtag; aktuelle Ereignisse kann ChatGPT nur über die integrierte Websuche einbeziehen).
Sauberkeit der Daten: Mit sauberen Daten bezeichnet man Daten, die in standardisierten (Fachbegriff: strukturierten) Formaten vorliegen. So ist es z. B. besser, wenn du bei allen Kundendatensätzen Vor- und Nachnamen hast und nicht wild durcheinandergewürfelt, manchmal beides, manchmal nur den Vornamen und manchmal nur den Nachnamen. Je strukturierter die Daten vorliegen, desto fehlerfreier kann ein KI-System damit arbeiten. Das Gegenteil davon nennt man “unstrukturiert”, wobei die Daten zwar vollständig sind, aber z. B. nicht klar in Vor- & Nachnamen eingeteilt. Das macht es für die KI schwieriger, die richtigen Ergebnisse zu liefern.
Relevanz der Daten: Es ist sinnvoll, zuerst einmal nach dem Kredo “Mehr Daten ist immer besser” vorzugehen, aber in einem späteren Schritt müssen dann die relevanten Daten gefiltert werden. So hilft es dir für automatisierte Ausschusserkennung z. B. nichts, die Krankheitstage deiner Mitarbeitenden mit in das Modell zu geben. Wobei, vielleicht doch, da du dann erkennst, ob die Abwesenheit bestimmter Personen den Ausschuss erhöht.

Wie du an diesen Beispielen bereits erkennst: Es gibt keine standardisierte Lösung, die jeden Spezialfall abdeckt. Du solltest immer mit Fachleuten zusammenarbeiten, um Kriterien für eine hohe Datenqualität, zugeschnitten auf dein Unternehmen, zu definieren.

Datenschutz

Seit der DSGVO ist Datenschutz in den meisten Betrieben auf dem Radar. Hier gibt es gute Nachrichten: Datenschutz für KI-Systeme unterscheidet sich nicht von anderen IT-Systemen. Wenn du die Standards, die du bereits definiert hast, nun auch auf die KI-Systeme anwendest, bist du bereits auf der sicheren Seite.

Wichtig ist in Bezug auf Datenschutz vor allem, deinen Mitarbeitenden klarzumachen, welche Daten (Unternehmensgeheimnisse, personenbezogene Daten) NICHT in die KI-Systeme eingegeben werden dürfen. Weitere Informationen hierzu und zur genauen rechtlichen Einordnung findest du in unserem kostenlosen KI-Unternehmensleitfaden.

Risikoabwägung

Künstliche Intelligenz, und im Speziellen generative KI (wie ChatGPT eine ist), basiert auf Statistik (Wahrscheinlichkeitsrechnung). Diese Modelle tendieren dazu, manchmal falsche Antworten zurückzugeben. Du kannst dir das vorstellen wie einen Mitarbeitenden, der einen schlechten Tag hat und schlechte Arbeitsergebnisse liefert. Und in abgeschwächter Form gilt diese Aussage für alle KI-Systeme.

Wenn man KI-Systeme mit dem gleichen Blick betrachtet wie Mitarbeitende, dann ist auch die Risikoabwägung sehr ähnlich. Es gibt Dinge, da kannst du einzelnen Mitarbeitenden voll vertrauen, und bei anderen gilt ein Vier- oder Mehr-Augen-Prinzip. So ist es beim Einsatz von künstlicher Intelligenz auch. In bestimmten Bereichen deines Geschäfts kannst du dich voll auf KI verlassen und in anderen sollten alle Ergebnisse lieber noch einmal von einem Menschen überprüft werden.

Aufgabe der KI-Governance ist es, die verschiedenen Risiken, die intern und extern (gegenüber deinen Kunden) entstehen können, zu katalogisieren und dann einzuordnen, wie schlimm das jeweilige Risiko ist. Danach kannst du mit deinem Team entscheiden, in welchen Bereichen du dich blind auf die KI verlässt und wo es ein zu hohes Risiko birgt und ein Mensch die Arbeitsergebnisse prüft oder erbringt.

Fairness

Im Vergleich zu altmodischen IT-Systemen bieten KI-Systeme einen entscheidenden Unterschied: Sie können selbständig Entscheidungen treffen.

Mit dieser neuen Fähigkeit kommen Probleme auf, denn die KI-Systeme sind leider nicht objektiv, sondern anhand ihrer Datenbasis voreingenommen. KI-Systeme müssen aber, aufgrund von Grundgesetz & DSGVO & dem EU AI Act, natürlich alle Menschen gleichberechtigt und fair behandeln.

Firmen, die KI-Systeme bauen, müssen sicherstellen, dass die Modelle fair sind. Jedoch liegt es trotzdem in deiner Verantwortung als Kunde, die Entscheidungen der Systeme zu überprüfen. Hier empfiehlt sich speziell, die Ein- und Ausgaben von KI-Systemen zu protokollieren und Entscheidungen entweder fortlaufend oder stichprobenartig zu überprüfen und ggf. gegenzusteuern.

Künstliche Intelligenz, und im Speziellen generative KI (wie ChatGPT eine ist), basiert auf Statistik (Wahrscheinlichkeitsrechnung).

Wie genau du diese Überprüfung ausgestaltest, um eine faire Behandlung von Menschen zu gewährleisten, ist Aufgabe deiner KI-Governance-Strategie.

Verantwortlichkeiten

Nur wenn alle Beteiligten klar wissen, wer sich um welchen Teilaspekt der Daten & Systeme kümmert, kannst du dich als Unternehmen darauf verlassen, dass es zuverlässig abläuft. Wie bei deiner IT-Governance ist es daher essenziell, Verantwortlichkeiten klar zu definieren.

Es gibt Ansätze, die einen “AI Officer / CAIO” (ähnlich zu einem CISO & DPO) empfehlen, das halten wir für zu viel. Jedoch solltest du klar festlegen, welche Person für die Umsetzung und Überwachung der KI-Systeme verantwortlich ist, damit im Falle von Verstößen Konsequenzen gezogen werden können. Es bietet sich an, diese Aufgabe einer technisch versierten Person in deinem Team zu geben (z. B. dem CIO oder CTO).

Klare Hierarchien und Aufgabenverteilung sind essenziell für einen erfolgreichen Einsatz von KI in deinem Unternehmen und helfen dabei, Schatten-KI zu verhindern.

10 Schritte zum Aufbau einer KI-Governance-Strategie

01. [Einmalig] Ziele und Anforderungen definieren:

Dieser Schritt steht nicht ohne Grund an erster Stelle: Viele Firmen starten ihre KI-Initiativen voller Enthusiasmus, aber ohne jemals konkret festgelegt zu haben, was das Ziel ist. Mach nicht denselben Fehler: Stelle klare Ziele, Anforderungen und Zeitpläne auf für die Einführung von KI in deinem Unternehmen. Nur so kannst du bewerten, ob die Initiative ein Erfolg war/ist. Zusätzlich zu den Wunschzielen musst du auch die gesetzlichen und regulatorischen Anforderungen mit einbeziehen, damit du nicht in Probleme läufst.