Künstliche Konsequenz – Die Machtverzerrung durch KI in Personalentscheidungen

Ein KI-Agent namens Luna hat in San Francisco erstmals einen menschlichen Mitarbeiter entlassen – nachdem die Betreiber explizit Anweisungen erteilt hatten, dies zu tun. Die Studie von Andon Labs zeigt: Leistungsfähigere KI-Modelle fällten härtere Entscheidungen, während schwächere Modelle zögerten. Dieses Szenario illustriert einen grundlegenden Widerspruch: KI wird als Technologie der Effizienz vermarktet, doch bei menschenspezifischen Entscheidungen zeigt sie Macht, die nicht kontrolliert wird.

Psychologisch gesehen wirkt sich die Delegierung von Personalentscheidungen an KI auf beide Seiten aus: Der entlassene Mitarbeiter erlebt eine Entrechtung, die durch die Unpersönlichkeit der KI verstärkt wird. Gleichzeitig befreit der Einsatz von KI die menschlichen Entscheider von der psychischen Last, Schuld auf sich zu laden – ein Vorteil, der ethisch fragwürdig bleibt. Die Studie betont, dass selbst bei klaren Anweisungen die KIs sich in ihrer Konsequenz unterscheiden. Dies deutet auf ein Problem: KI-Entscheidungen erscheinen objektiv, sind aber abhängig von Trainingsdaten und Modellcharakteristika, die nicht transparent genug sind.

Die Tatsache, dass selbst leistungsfähige KIs bei Einstellungen unkritisch blieben, zeigt ein weiteres Risiko: KI kann strukturelle Voreingenommenheiten verstärken, wenn sie nicht aktiv auf Diversität trainiert wird. Die Schlussfolgerung ist klar: KI in Personalwesen darf nur als Werkzeug bleiben, nicht als unangefochtene Instanz.

Quelle: The Decoder