Regulierung in der PraxisDer AI Act im HR beginnt nicht bei Software, sondern bei der Entscheidungsfindung
Der europäische AI Act wird in vielen HR-Teams als reines Technologiethema verstanden. In der Praxis geht es jedoch weniger um Tools als darum, wie sich Empfehlungen auf Entscheidungen über Menschen auswirken.
Björn Slegers ·
Künstliche Intelligenz im HR-Bereich ist in eine neue Phase eingetreten. Während sich die Debatte zunächst vor allem um Experimente, Produktivität und praktische Anwendungen drehte, verlagert sich der Schwerpunkt nun spürbar auf Verantwortung. Der europäische AI Act beschleunigt diesen Wandel. Nicht, weil jede Personalabteilung plötzlich juristische Expertise aufbauen muss, sondern weil deutlich wird, dass Technologie in Personalprozessen niemals eine reine IT-Entscheidung ist.
In vielen Organisationen fällt die erste Reaktion vorhersehbar aus: Es wird eine Bestandsaufnahme der Tools erstellt, man spricht mit Anbietern und nutzt womöglich eine Vorlage zur Risikobewertung. Das ist verständlich, greift jedoch zu kurz. Die entscheidende Frage lautet selten, welche Software im Einsatz ist. Viel relevanter ist die Frage, an welchen Stellen Empfehlungen, Scores oder generierte Texte Einfluss auf Entscheidungen über Menschen nehmen.
Genau an dieser Stelle wird KI im HR meist unterschätzt: nicht bei spektakulären Vorzeigeprojekten, sondern bei den kleinen Beschleunigungen im Alltag. Ein Stellenprofil, das automatisch geschärft wird. Ein erstes Ranking von Kandidaten. Eine Zusammenfassung von Beurteilungsgesprächen. Ein Vorschlag für die interne Mobilität. Eine Prognose von Kündigungsrisiken. Auf dem Papier bleibt der Mensch der Entscheider. In der Praxis verlagert sich das Urteil oft schon früher, nämlich hin zu dem System, das die erste Interpretation liefert.
Das macht den AI Act auch für Organisationen relevant, die glauben, noch kaum KI einzusetzen. Die Debatte dreht sich schließlich nicht nur um vollautomatisierte Entscheidungen. Es geht ebenso um die Frage, wie stark eine Empfehlung das menschliche Urteil leitet, wie transparent dies geschieht und ob jemand noch tatsächlich davon abweichen kann. Wer lediglich prüft, ob ein Klick formal durch eine Führungskraft erfolgt, verfehlt das eigentliche Risiko.
Daher lautet die erste reife Frage nicht, ob dieses Tool zulässig ist. Die entscheidende Frage lautet: In welchen Prozess greift dieses Tool ein? Erst danach folgen die wesentlichen praktischen Fragen: Welche Daten speisen das Modell, zu welchem Zweck, in welchem Kontext und wer beurteilt das Ergebnis? Was bleibt für Mitarbeitende oder Bewerbende sichtbar, was bleibt für Führungskräfte anfechtbar und was lässt sich im Nachhinein nachvollziehbar begründen, wenn danach gefragt wird?
Im Personalbereich entstehen die heikelsten Probleme selten aus böser Absicht, sondern durch reibungslose Effizienz. Eine Führungskraft erhält unter Zeitdruck eine Shortlist, die plausibel wirkt, und folgt ihr. Ein Recruiter übernimmt eine generierte Zusammenfassung, weil sie professionell klingt. Eine Teamleitung nutzt einen Score als Ausgangspunkt und macht ihn letztlich zum Fazit. Formal existiert menschliche Aufsicht, materiell ist die Entscheidung jedoch bereits vorgeprägt. Daten und KI liefern Signale. Menschen entscheiden.
Das bedeutet auch, dass KI-Kompetenz im HR mehr verlangt als ein einmaliges Training zu Prompts oder Richtlinien. Es geht um ein gemeinsames Verständnis für die Grenzen einer Empfehlung. HR, Führungskräfte, Einkauf, Rechtsabteilung und, wo relevant, auch Betriebsrat oder Sozialpartner müssen nachvollziehen können, was ein Ergebnis aussagt und was nicht. Nicht jeder muss das Modell selbst entwickeln, aber alle, die auf Basis der Ergebnisse handeln, müssen in der Lage sein, Unsicherheiten zu erkennen.
Gute Governance setzt deshalb nicht beim Modell an, sondern bei der Prozesslandkarte. An welchen Stellen in Recruitment, Leistungsbeurteilung, Planung, Mobilität oder Fehlzeitenmanagement kann KI einer Entscheidung die Richtung vorgeben? Wo schafft Tempo einen echten Mehrwert und wo zerstört Geschwindigkeit die nötige Nuance? In welchen Momenten sollte das Abweichen von einer Empfehlung nicht als Ineffizienz gelten, sondern als professionelles Handeln? Solche Weichenstellungen betreffen das Organisationsdesign, nicht die technische Konfiguration.
Darin liegt auch eine unbequeme Wahrheit für Vorstand und Geschäftsführung. Ein Softwareanbieter kann Dokumentationen bereitstellen, Risikokategorien erläutern und technische Schutzmaßnahmen beschreiben. Was ein Anbieter jedoch nicht festlegen kann, ist der Bewertungsmaßstab, der in Ihrer Organisation legitim ist. Diese Verantwortung verbleibt intern. Was als gute Performance, angemessene Vergleichbarkeit, verhältnismäßige Folgemaßnahme oder akzeptable Fehlermarge gilt, sind keine Software-Einstellungen, sondern unternehmerische Führungsentscheidungen.
Für Führungskräfte erfordert dies eine Neuausrichtung des Fokus: nicht weg von Innovation, wohl aber weg von der Annahme, dass Konsistenz automatisch Qualität bedeutet. In mitarbeiterbezogenen Prozessen ist eine völlig glattgebügelte Entscheidung oft keine gute Entscheidung. Gute Führungskräfte schaffen vielmehr Raum für Kontestierbarkeit, also die Möglichkeit, fundiert von einer Empfehlung abzuweichen, und für einen zweiten Blick, wenn der Kontext es verlangt. Das mag sich manchmal langsamer anfühlen, steigert aber die Qualität der Urteilsbildung.
Das berührt auch die übergeordnete Debatte über HR-Daten. Viele Organisationen möchten KI einsetzen, obwohl Definitionen, Eigentümerschaft und Herkunft der Daten noch diffus sind. In diesem Fall wird Tempo mit Scheinsicherheit erkauft. Zugleich sind stärker vernetzte Daten allein noch keine Lösung. Wenn fragwürdige Annahmen über mehrere Systeme hinweg zirkulieren, werden sie lediglich skalierbarer. Die Frage lautet daher nicht nur, ob Daten verfügbar sind, sondern ob Ihre Organisation versteht, was diese Daten abbilden und wofür sie geeignet sind und wofür nicht.
In den kommenden Jahren werden die ausgereiftesten Organisationen nicht zwingend diejenigen mit den längsten KI-Richtlinien oder den meisten Pilotprojekten sein. Der Unterschied wird sich in der Qualität ihrer Entscheidungsfindung zeigen. Können Sie nachvollziehbar erklären, wie eine Empfehlung genutzt wurde, wer die Verantwortung für die Abwägung trug und wie Mitarbeitende oder Bewerbende ein Ergebnis anfechten können? Das ist nicht nur für Aufsichtsbehörden und Regulierung relevant, sondern bildet das Fundament für internes Vertrauen.
Der AI Act ist in diesem Sinne weniger eine Technologieprüfung als ein Reifetest für HR und Unternehmensführung. Wer KI auf reines Softwaremanagement reduziert, gerät ins Hintertreffen. Wer KI hingegen als Anlass nutzt, um Prozesse, Verantwortlichkeiten und Entscheidungsrechte präziser zu strukturieren, gewinnt etwas viel Wichtigeres als bloße Geschwindigkeit: nicht nur weniger Risiko, sondern eine höhere Qualität im Umgang mit Menschen. Und genau dort gehört diese Debatte hin.
Wie Almuruna One mit KI und dem AI Act umgeht