🧪 Diese Plattform befindet sich in der Beta-Phase. Funktionen können sich ändern und es können Fehler auftreten. Danke für dein Feedback!
automation_bias
Automatisierungs-Bias ist die Tendenz, Vorschläge von automatisierten Systemen zu bevorzugen und widersprüchliche Informationen aus nicht-automatisierten Quellen zu ignorieren oder abzuwerten, selbst wenn das automatisierte System nachweislich falsch liegt. Da Systeme immer ausgefeilter werden, verlassen sich Menschen zunehmend auf deren Ausgaben, ohne sie kritisch zu bewerten, und geben so faktisch das Urteilsvermögen an die Maschine ab.
Ein Pilot folgt den Anweisungen der GPS-Navigation, um auf eine gesperrte Landebahn zu rollen, trotz deutlich sichtbarer physischer Barrieren und Warnschilder, weil das automatisierte System anzeigte, dass diese Route korrekt sei.
Eine Ärztin verlässt sich auf die Diagnoseempfehlung einer KI-Software und verschreibt das vorgeschlagene Medikament, obwohl ihr klinisches Urteil und die Krankengeschichte des Patienten auf eine andere Ursache hindeuten.
Ein Lagerarbeiter folgt blind den Anweisungen seines automatisierten Kommissioniersystems und liefert Pakete an falsche Adressen, obwohl ihm mehrere Kollegen vor Ort sagen, dass die Daten offensichtlich veraltet sind.
Binäre (Ja/Nein) Fragen, die ein LLM beantworten muss, um diesen Aspekt zu identifizieren:
Wird eine automatisierte Empfehlung ohne kritische Bewertung akzeptiert?
Typ: binaryWerden menschliche Beobachtungen oder widersprüchliche Evidenz zugunsten der Systemausgabe abgetan?
Typ: binaryWürde man ohne die automatisierte Vorgabe zur gleichen Konklusion gelangen?
Typ: binaryAutomatisierungs-Bias ist die Tendenz, Vorschläge von automatisierten Systemen zu bevorzugen und widersprüchliche Informationen aus nicht-automatisierten Quellen zu ignorieren oder abzuwerten, selbst wenn das automatisierte System nachweislich falsch liegt. Da Systeme immer ausgefeilter werden, verlassen sich Menschen zunehmend auf deren Ausgaben, ohne sie kritisch zu bewerten, und geben so faktisch das Urteilsvermögen an die Maschine ab.
Automatisierte Systeme werden als objektiv und unfehlbar wahrgenommen, was den Autoritäts-Bias auslöst. Die Überwachung eines automatisierten Systems auf Fehler ist kognitiv anspruchsvoll und langweilig, was zu einem Nachlassen der Wachsamkeit führt. Der Aufwand für die Überprüfung der automatisierten Ausgabe übersteigt oft den Aufwand, sie einfach zu akzeptieren.
Wahre ein Situationsbewusstsein unabhängig von automatisierten Systemen und behandle deren Ausgaben als zu verifizierende Empfehlungen und nicht als zu befolgende Anweisungen. Übe regelmäßig die manuelle Entscheidungsfindung, um deine Fähigkeiten zu erhalten.
Automatisierungs-Bias hat zu Flugunfällen, medizinischen Fehlern durch elektronische Gesundheitsakten und klinische Entscheidungsunterstützungssysteme sowie zu Navigationskatastrophen geführt, bei denen Fahrer ihrem GPS in Seen oder über Klippen folgten.
Nutze diese Tools, um diesen Aspekt zu erkennen, zu analysieren oder zu trainieren.