Goodhart's Law explained using Roblox
3-Second Blueprint (English)
- Goodhart's Law states that when a proxy metric becomes the goal, it stops measuring the real outcome you wanted.
- Rewarding most blocks placed led players to drop structural beams and spam tiny blocks until the entire tower collapsed.
- Like Wells Fargo quotas driving fake accounts, incentives fail unless tied directly to true goals like highest floor reached.
Goodhart's LawProxy Metric GamingPerverse IncentivesOutcome-Aligned Metrics
3-Sekunden-Fazit (Deutsch)
- Goodharts Gesetz besagt: Wird eine Kennzahl zum Ziel erklärt, hört sie auf, das eigentlich Gewünschte zuverlässig zu messen.
- Die Prämie für möglichst viele Blöcke ließ Spieler tragende Balken ignorieren und Kleinteile stapeln, bis der Turm brach.
- Wie bei den Scheinkonten von Wells Fargo funktionieren Anreize nur, wenn sie das wahre Ziel wie die erreichte Höhe belohnen.
Goodharts GesetzKennzahlen-ManipulationFehlanreizeZielgerichtete Metriken
Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.