Wer sollte die KI-Governance in HR verantworten? Die Fragen, die nur People-Teams beantworten können

Jedes HR-Team setzt heute mindestens ein KI-Tool ein, das Personalentscheidungen berührt, ob beim Screening von Lebensläufen, bei der Leistungsbewertung, bei der Verteilung von Aufgaben oder beim Matching von Mitarbeitenden für Mentoring und Kaffee-Treffen. Was fast keinem dieser Teams vorliegt, ist eine klare Antwort auf eine viel schwierigere Frage: Wer in der Organisation ist tatsächlich dafür verantwortlich, dass diese KI fair, nachvollziehbar und im Umgang mit echten Menschen sicher ist?

Ehrlich gesagt lautet die Antwort in den meisten Unternehmen derzeit: IT oder die Rechtsabteilung, mangels Alternative. Nicht weil sie am besten aufgestellt wären, um die entscheidenden Fragen zu beantworten, sondern weil niemand sonst dieses Feld für sich beansprucht hat.

KI in HR ist zur Compliance-Frage geworden, nicht mehr nur zur Technikfrage

Die KI-Verordnung der EU (EU AI Act), deren Pflichten nun schrittweise greifen, stuft KI-Systeme in Beschäftigung und Personalmanagement allein aufgrund ihrer Kategorie als hochriskant ein. Dazu gehören Tools für Recruiting, Leistungsbewertung, Aufgabenverteilung und Überwachung. Die Einstufung als Hochrisiko-System löst strengere Pflichten aus: Dokumentation der Funktionsweise des Systems, Transparenz gegenüber den betroffenen Menschen und verpflichtende menschliche Aufsicht vor folgenreichen Entscheidungen.

Das ist kein Compliance-Problem, das man irgendwann einplanen kann. Wenn Ihre Organisation heute an irgendeiner Stelle des Mitarbeiterlebenszyklus KI einsetzt, vom KI-gestützten Matching bis zur Leistungsanalyse, bewegen Sie sich bereits in dieser regulatorischen Kategorie.

Die Governance-Fragen, für deren Beantwortung nur HR gerüstet ist

Die IT kann Ihnen sagen, ob ein Modell sicher ist. Die Rechtsabteilung kann Ihnen sagen, ob ein Vertrag mit einem Anbieter auf dem Papier konform ist. Keine von beiden kann Ihnen sagen, ob sich eine algorithmische Entscheidung für die betroffene Person auf der anderen Seite fair anfühlt, oder ob der Ausschluss einer Person von einem Mentoring-Match aufgrund eines undurchsichtigen Scores still und leise die Zugehörigkeit eines ganzen Teams untergräbt.

Das sind HR-Fragen. Konkret:

• Bildet das Ergebnis dieses Systems die gelebte Erfahrung der Mitarbeitenden ab oder nur eine Kennzahl?
• Kann eine betroffene Person in einfachen Worten verstehen, warum sie dieses Ergebnis erhalten hat?
• Was passiert, wenn der Algorithmus falsch liegt, und wer ist befugt, ihn zu übergehen?
• Reproduziert das System historische Verzerrungen, die in früheren Personaldaten stecken?

Warum IT und Rechtsabteilung dieses Feld automatisch besetzen

Ein Governance-Vakuum bleibt nicht lange leer. Wenn HR die Verantwortung für die Personalfragen der KI-Governance nicht ausdrücklich beansprucht, steuert die IT nach Sicherheit und Verfügbarkeit, und die Rechtsabteilung steuert nach vertraglichen und regulatorischen Risiken. Beides ist nötig. Keines davon reicht aus, denn keine der beiden Funktionen sieht, wie eine algorithmische Entscheidung im Arbeitsalltag der Mitarbeitenden tatsächlich ankommt.

Am schwierigsten ist meist, die organisatorische Befugnis aufzubauen. Dafür muss die HR-Leitung auf Vorstandsebene (CHRO) ein Governance-Feld beanspruchen, das bislang wie selbstverständlich andere Funktionen besetzt haben, und dieser Anspruch muss ausdrücklich auf Ebene der Geschäftsführung erhoben werden, nicht stillschweigend vorausgesetzt.

KI-Governance in der Verantwortung von HR aufbauen: ein Rahmen für den Einstieg

1. Jeden KI-Berührungspunkt im Mitarbeiterlebenszyklus erfassen

Die meisten HR-Teams unterschätzen, wie viele KI-Systeme ihre Mitarbeitenden bereits berühren, vom Bewerbermanagementsystem bis zum KI-gestützten Matching für Mentoring. Was Sie nicht erfasst haben, können Sie nicht steuern.

2. Nachvollziehbarkeit vor dem Kauf verlangen, nicht danach

Ein Anbieter, dessen Logik für Matching, Scoring oder Ranking sich einer betroffenen Person nicht in einfachen Worten erklären lässt, sollte für einen Hochrisiko-Anwendungsfall nicht durch den Einkauf kommen.

3. Einen festen Eskalationsweg schaffen

Mitarbeitende brauchen einen dokumentierten, bekannten Weg, um ein algorithmisches Ergebnis anzufechten, und jemand in HR braucht die ausdrückliche Befugnis, es zu übergehen.

4. Regelmäßig auf Verzerrungen prüfen, nicht nur einmal zum Start

Modelle verändern sich. Ein System, das beim Start fair war, kann mit der Zeit Verzerrungen aus den Daten übernehmen, mit denen es trainiert wird. Das muss eine fortlaufende Prüfung sein, kein einmaliges Audit.

Was Sie fragen sollten, bevor Sie ein KI-Tool für Matching oder Bewertung einführen

Tools wie RandomCoffee, die KI für Matching und Mentoring-Programme einsetzen, sollten am selben Maßstab gemessen werden: Matches sollten nachvollziehbar sein, die Kriterien sollten für HR sichtbar sein, und vor der endgültigen Bildung eines Paares sollte immer ein menschlicher Prüfschritt stehen, keine undurchsichtige Blackbox, die allein über Menschen entscheidet.

KI-Governance in HR ist kein Projekt mit Enddatum. Sie ist eine dauerhafte Verantwortung, und die Organisationen, die sie in HR verankern, statt sie stillschweigend IT und Rechtsabteilung zu überlassen, werden diejenigen sein, deren Mitarbeitende den Systemen, die über ihr Arbeitsleben entscheiden, tatsächlich vertrauen.

👉 Sehen Sie, wie RandomCoffee nachvollziehbares, von Menschen geprüftes KI-Matching in Ihre Personalprogramme integriert.