Werden meine Daten zum Training der KI genutzt? Die wichtigsten Fragen zur KI-Software im Personalwesen

Von Thorsten Giersch

Wie gehen Sie mit dem Black-Box-Problem um und wie erklären Sie Entscheidungen der KI?  

• Wenn die KI einen Bewerber ablehnt oder ein Burnout-Risiko anzeigt, muss die Personalabteilung das begründen können. Nach dem EU AI Act (der 2026 voll greift) haben Beschäftigte bei KI-Entscheidungen ein Recht darauf. Ein seriöser Anbieter zeigt auf, welche Parameter (Skills, Erfahrungswerte) zu einem Score geführt haben. Antworten wie „Das ist ein geschützter Algorithmus, das können wir nicht einsehen“ sind heute ein K.-o.-Kriterium. 

Mit welchen Daten wurde die KI trainiert und wie verhindern Sie Unconscious Bias? 

• KI-Modelle, die nur mit US-Daten oder historischen (oft männlich geprägten) Datensätzen trainiert wurden, diskriminieren oft unbewusst Minderheiten oder passen nicht zum deutschen Arbeitsmarkt. Fragen Sie nach der Datenherkunft. Wurden die Algorithmen auf Vielfalt geprüft? Wird die KI regelmäßig auf Fairness geprüft? Ein guter Anbieter kann erklären, wie er Verzerrungen (Biases) technisch minimiert. 

Wie unterstützen Sie uns konkret bei der Einbindung des Betriebsrats? 

• In Deutschland ist die Mitbestimmung bei Einführung von Überwachungstechnologien oder Prozessänderungen (BetrVG § 87) sehr stark. Viele KI-Projekte im Mittelstand scheitern am Widerstand der Arbeitnehmervertreter. Erfahrene Anbieter liefern Datenschutz-Folgeabschätzungen, Vorlagen für Dienstvereinbarungen und Informationspakete für den Betriebsrat. Sie verstehen sich als Partner in diesem Prozess, nicht nur als Software-Verkäufer. 

Wird meine Unternehmens-Datenbasis genutzt, um das allgemeine Modell für andere Kunden zu trainieren? 

• Ihr Wissen über Ihre erfolgreichen Mitarbeiter und Prozesse (Intellectual Property) ist ein Wettbewerbsvorteil. Sie wollen nicht, dass die KI lernt, was Ihre Firma erfolgreich macht, und dieses Wissen (indirekt) der Konkurrenz zur Verfügung stellt. Bestehen Sie auf einer mandantenfähigen Trennung. Ihre Daten müssen in Ihrem geschlossenen Raum bleiben („Zero Data Retention“ oder „Private Instance“), um das Basismodell zu verfeinern, ohne dass die Informationen nach außen abfließen. 

Wie sieht die Integration in unsere bestehende System­landschaft (etwa Datev oder SAP) aus? 

• KI entfaltet ihre Kraft nur, wenn sie Daten flüssig lesen und schreiben kann. Manuelle CSV-Exporte führen zu Fehlern und Schatten-IT. Fragen Sie nach nativen Schnittstellen (API). Ein guter Anbieter sollte nicht nur sagen, alles anbinden zu können, sondern Referenzen von Kunden ähnlicher Größe nennen, bei denen die Integration in deutsche Standard-Software bereits reibungslos läuft.

Faktenbox: KI im Personalwesen – Fakten, Nutzen, Risiken

Zahlen

• 43 % der Unternehmen verlangen weiterhin formale Nachweise für alle Positionen.
• 87 % der Firmen haben Schwierigkeiten, passende Fachkräfte zu finden.
• 68 % der Beschäftigten denken mehrmals im Monat über einen Jobwechsel nach.
• 3 von 4 Arbeitgebern wollen Bewerber künftig stärker nach Fähigkeiten statt Abschlüssen beurteilen.

Was KI im HR leisten kann

• Vorsortierung von Lebensläufen
• Optimierung von Stellenanzeigen
• Chatbots für Bewerberfragen
• Automatisierung von Terminierung und Absagen
• Identifikation interner Talente und personalisierte Weiterbildung

Risiken & Regulierung

• Verzerrte Trainingsdaten können zu indirekter Diskriminierung führen (AGG-Risiko).
• KI im Personalwesen gilt laut EU AI Act als Hochrisiko-Anwendung.
• Unternehmen müssen Fairness, Datenschutz (DSGVO) und Nachvollziehbarkeit nachweisen.

Empfehlungen für KMU

• Erst einfache Verwaltungsprozesse automatisieren, dann Recruiting-Modelle testen
• KI-Systeme regelmäßig auf Fairness und Qualität prüfen
• Softwareverträge klar regeln: Letzte Entscheidung liegt beim Menschen
• Anbieter nach Datensouveränität, Transparenz und Integrationsfähigkeit auswählen

Bleiben Sie auf dem Laufenden, abonnieren Sie unseren kostenlosen Newsletter und erhalten Sie immer die neuesten Nachrichten und Analysen direkt in Ihren Posteingang.