Kolumne «Security Post»: Lieber KI-Gover­nance Manager, es gibt viel zu tun

Lieber KI-Governance Manager

Du bist eine sehr gefragte Person. Am Einsatz von KI-Tools kommt praktisch kein Unternehmen mehr vorbei. KI hier, AI dort, vom einfachen Schreibassistenten bis hin zu autonomen Systemen, die Aufgaben selbständig erledigen (Stichwort Agentic AI). Und genau hier wird es heikel: Je selbständiger ein System handelt, desto grösser die Verantwortungslücke, wenn niemand mehr nachvollziehen kann, wer was warum entschieden hat. Verselbständigen kann sich auch der Einsatz der KI. Dann nämlich, wenn KI unkontrolliert eingeführt wird, wenn Strukturen und klare Spielregeln fehlen und der KI-Einsatz schneller wächst als die interne Kontrolle.


Unternehmen, die KI ernsthaft und verantwortungsvoll einsetzen wollen, setzen deshalb auf Menschen wie dich, die den Überblick über den KI-Einsatz behalten und dafür sorgen, dass KI-Projekte sicher, nachvollziehbar und gesetzeskonform ablaufen. Etwa, indem du ein KI-Inventar aufbaust, bei Risikobewertungen unterstützt, verbindliche Richtlinien für den KI-Einsatz erarbeitest und Schulungen für Mitarbeitende durchführst. Du bewegst dich gleichzeitig souverän auf dem Datenschutzparkett. Und eine Integrationsfigur bist du auch noch: Die Einbettung der KI-Governance in bestehende Strukturen (ISMS, Compliance, Internes Kontrollsystem) gehört nämlich genauso zu deinen Aufgaben wie der konsequente Einbezug von Technik, Recht und Organisation und damit verschiedener Fachbereiche.

Ich kann mir gut vorstellen, dass du als Datenschutzbeauftragter in die Rolle des KI-Governance Managers hineingewachsen bist. Denn Datenschutz ist neben Informations- und IT-Sicherheit die Königsdisziplin, wenn es um KI-Anwendungen und -Systeme geht. Und Datenschutz und KI sind sich, gelinde gesagt, nicht ganz grün. Ich sage nur: Schutz personenbezogener, sensibler Daten (und des Urheberrechts notabene) contra Datenhunger der KI. Böse Zungen behaupten ja gerne, dass Datenschutz die KI ausbremse und deshalb in die zweite Reihe verbannt gehöre. Na, na. Bei dieser Aussage sträuben sich ja nicht nur bei dir die Nackenhaare. Umso wichtiger ist deine Aufgabe, für die optimale und friedliche Koexistenz dieser beider Alpha-Themen zu sorgen (Stichwort: Compliance).


Es gibt also viel zu tun für viele Unternehmen und für KI-Governance Manager wie dich. Wobei deine Aufgaben je nach KI-Strategie des Unternehmens unterschiedlich aussehen. Setzt es ausschliesslich auf KI-Tools von Drittanbietern, liegt dein Fokus vor allem auf der sorgfältigen Auswahl der Tools, der vertraglichen Absicherung gegenüber den Anbietern und einem strukturierten Freigabeprozess. Entwickelt dein Unternehmen hingegen eigene KI-Modelle oder trainiert es diese selbst, erhöht sich der Governance-Aufwand merklich. So oder so: An einem KI-Inventar kommt kein Unternehmen vorbei. Denn nur wer weiss, welche KI-Systeme überhaupt im Einsatz sind, kann sie steuern und verantworten. Und genau hier klafft die nächste Lücke: Ein Grossteil der Unternehmen hat keinen verlässlichen Überblick darüber, welche KI-Tools die Mitarbeitenden tatsächlich nutzen (Stichwort: Schatten-KI). Transparenz schafft Vertrauen, auch deshalb braucht es dich mehr denn je.
MfG Reto C. Zbinden