🧪 Diese Plattform befindet sich in der Beta-Phase. Funktionen können sich ändern und es können Fehler auftreten. Danke für dein Feedback!
algorithmic_bias
Algorithmischer Bias ist ein technisches statistisches Problem, das entsteht, wenn Machine-Learning-Modelle historische Verzerrungen in Trainingsdaten kodieren und perpetuieren. Dies geschieht durch verzerrte Trainingsdaten, Proxy-Variablen, die mit geschützten Merkmalen korrelieren, und Rückkopplungsschleifen.
Ein Rückfallvorhersage-Algorithmus (COMPAS) wurde auf historischen Verhaftungsdaten trainiert. Da Minderheitsangeklagte historisch aufgrund diskriminierender Polizeiarbeit häufiger verhaftet wurden, wies der Algorithmus Minderheitsangeklagten mit ähnlichen tatsächlichen Rückfallraten höhere Risikobewertungen zu als weißen Angeklagten.
Ein KI-gestütztes Bewerbungssystem wurde auf Lebensläufen erfolgreicher Mitarbeiter der letzten 20 Jahre trainiert, die überwiegend männlich waren. Das System lernte, männlich konnotierte Formulierungen wie 'durchgesetzt' und 'dominiert' positiv zu gewichten und Lücken im Lebenslauf – häufig durch Elternzeit entstanden – negativ zu bewerten, wodurch Frauen systematisch schlechter bewertet werden.
Ein Algorithmus zur Kreditwürdigkeitsprüfung einer Bank wurde auf historischen Kreditdaten trainiert. Da Bewohner bestimmter Stadtteile in der Vergangenheit aufgrund diskriminierender Kreditvergabepraktiken seltener Kredite erhielten und damit weniger positive Kredithistorien aufbauen konnten, stuft das Modell Antragsteller aus diesen Gebieten automatisch als riskanter ein – und zementiert so die ursprüngliche Benachteiligung.
Binäre (Ja/Nein) Fragen, die ein LLM beantworten muss, um diesen Aspekt zu identifizieren:
Wurde das Modell auf historischen Daten trainiert, die vergangene diskriminierende Praktiken kodieren?
Typ: binarySind Modellausgaben für geschützte Untergruppen systematisch weniger genau oder stärker verzerrt?
Typ: binaryWurden Fairness-Metriken (z.B. demografische Parität, ausgeglichene Chancen) neben Genauigkeitsmetriken bewertet?
Typ: binaryWird die behauptete Neutralität des Algorithmus verwendet, um seine unterschiedlichen Auswirkungen zu verschleiern?
Typ: binaryAlgorithmischer Bias ist ein technisches statistisches Problem, das entsteht, wenn Machine-Learning-Modelle historische Verzerrungen in Trainingsdaten kodieren und perpetuieren. Dies geschieht durch verzerrte Trainingsdaten, Proxy-Variablen, die mit geschützten Merkmalen korrelieren, und Rückkopplungsschleifen.
Daten spiegeln historische soziale Strukturen wider. Wenn diese Strukturen Diskriminierung kodieren, reproduzieren auf historischen Daten optimierte Modelle die Diskriminierung. Das mathematische Erscheinungsbild von Objektivität verschleiert die in Trainingsdaten eingebetteten normativen Entscheidungen.
Trainingsdaten auf Repräsentativität prüfen. Modellleistung separat für demografische Untergruppen messen. Fairness-Einschränkungen bei der Optimierung anwenden. Kausale Modelle verwenden.
Gesichterkennungssysteme, die überwiegend auf hellhäutigen Gesichtern trainiert wurden, zeigen dramatisch höhere Fehlerraten bei dunkelhäutigeren Frauen (MIT Media Lab-Studie, Buolamwini & Gebru, 2018).
Nutze diese Tools, um diesen Aspekt zu erkennen, zu analysieren oder zu trainieren.