🧪 Diese Plattform befindet sich in der Beta-Phase. Funktionen können sich ändern und es können Fehler auftreten. Danke für dein Feedback!
cobra_effect
Der Kobra-Effekt beschreibt Situationen, in denen ein Versuch, ein Problem durch Anreize für einen messbaren Proxy zu lösen, das zugrundeliegende Phänomen, das er beheben sollte, nicht nur nicht löst, sondern aktiv verschlechtert. Benannt nach der apokryphen britischen Kolonialpolitik in Indien, bei der Kopfgelder für tote Kobras die Schlangenzucht anreizten.
Ein Krankenhaus senkt die Wiederaufnahmequoten (eine Qualitätskennzahl), indem es Patienten weniger genesungsbereit entlässt. Die Kennzahl verbessert sich, aber Patienten verschlechtern sich zu Hause und gehen in Notaufnahmen — was nicht in der Wiederaufnahmestatistik gezählt wird.
Eine Stadtverwaltung führt eine Geldprämie für jeden abgegebenen gestohlenen Roller ein, um Diebstähle zu reduzieren. Kurz darauf beginnen Bürger, selbst Roller zu stehlen und sie gegen die Prämie abzugeben – die Diebstahlrate steigt drastisch an.
Ein Callcenter bewertet seine Mitarbeiter nach der durchschnittlichen Gesprächsdauer, um Effizienz zu steigern. Die Angestellten legen daraufhin Kunden einfach auf oder lösen Probleme oberflächlich, damit die Gesprächszeit sinkt – die Kundenzufriedenheit bricht ein, obwohl die Kennzahl glänzt.
Binäre (Ja/Nein) Fragen, die ein LLM beantworten muss, um diesen Aspekt zu identifizieren:
Optimiert die Intervention eine messbare Kennzahl statt des zugrundeliegenden Ziels?
Typ: binaryKönnte die Kennzahl unabhängig vom wahren Ergebnis gespielt oder optimiert werden?
Typ: binarySchafft die Verbesserung der Kennzahl Anreize, die das zugrundeliegende Phänomen verschlechtern?
Typ: binaryIst dies von Goodharts Gesetz zu unterscheiden (Kennzahl hört auf, ein gutes Maß zu sein) durch aktiven Rückschlag?
Typ: binaryDer Kobra-Effekt beschreibt Situationen, in denen ein Versuch, ein Problem durch Anreize für einen messbaren Proxy zu lösen, das zugrundeliegende Phänomen, das er beheben sollte, nicht nur nicht löst, sondern aktiv verschlechtert. Benannt nach der apokryphen britischen Kolonialpolitik in Indien, bei der Kopfgelder für tote Kobras die Schlangenzucht anreizten.
Kennzahlen sind immer unvollkommene Proxys für die zugrundeliegenden Ziele, die sie repräsentieren. An Kennzahlen gebundene Anreize schaffen Druck, die Kennzahl mit allen verfügbaren Mitteln zu optimieren.
Mehrere Kennzahlen verwenden, die verschiedene Aspekte des Ziels erfassen. Die Möglichkeit des Spielens bewerten. Prüfen, ob Kennzahlenverbesserungen mit Verbesserungen schwerer zu spielender Indikatoren korrelieren.
Sowjetische Produktionsquoten nach Gewicht veranlassten Fabriken, Nägel so schwer wie möglich zu machen. Nägel nach Stückzahl führten zu winzigen, nutzlosen Nägeln. Beides sind Kobra-Effekte.
Nutze diese Tools, um diesen Aspekt zu erkennen, zu analysieren oder zu trainieren.