Verzerrung, Fairness und Datenqualität

Kurz: KI-Modelle übernehmen Muster aus ihren Daten, auch Vorurteile und Lücken. Wenn Daten bestimmte Gruppen schlecht abbilden, arbeitet das Modell für sie schlechter.

Genauer: Das Modell kennt keine Moral, nur Statistik. Wenn historische Entscheidungen diskriminierten (Bewerbungen, Kredite), lernt es das mit.

Im Detail

• Quellen: Stichproben-Verzerrung (wer wurde erfasst?), historische Verzerrung, Mess- und Label-Verzerrung, Rückkopplung (Empfehlungen verstärken sich selbst).
• Beispiele: Gesichtserkennung mit höherer Fehlerrate bei dunkler Haut, Bewerbungs-Filter, die Frauen benachteiligten, Sprachmodelle mit Stereotypen.
• Fairness-Begriffe: Gleiche Fehlerraten pro Gruppe, gleiche Trefferquoten, Gleichbehandlung bei gleicher Qualifikation. Sie können sich widersprechen.
• Gegenmittel: Ausgewogene Daten, Auswertung getrennt nach Gruppen, Neugewichtung, Tests (Red Teaming), Dokumentation (Datenblätter, Model Cards).
• Menschen im Prozess: Wichtige Entscheidungen nicht allein dem Modell überlassen.
• Recht: Der EU AI Act stuft Hochrisiko-Systeme (Bewerbung, Kredit, Justiz) streng ein, siehe EU AI Act und Regeln für KI.

Siehe auch: Daten, Merkmale und Labels, Grenzen von KI: Was Modelle nicht können