Brain-Score 91/100 TECH Sequoia Capital · 2:22

Andrej Karpathy on one of AI's weirdest flaws: the car wash problem

Andrej Karpathy on one of AI's weirdest flaws: the car wash problem
Watch in DeepScroll Feed → Watch Original on YouTube

3-Second Blueprint (English)

  1. Frontier LLMs display jagged intelligence—finding zero-day code bugs while advising users to walk to a car wash 50 meters away.
  2. Model performance spikes in verifiable RL domains like coding or heavily sampled pre-training sets like chess, not uniformly.
  3. Practitioners must test whether tasks hit trained RL circuits or fall out-of-distribution requiring human oversight and fine-tuning.
Jagged IntelligenceVerifiable RL EnvironmentsTraining Data DistributionLLM Fine-Tuning

3-Sekunden-Fazit (Deutsch)

  1. Moderne LLMs zeigen gezackte Intelligenz: Sie finden Zero-Day-Lücken im Code, raten aber dazu, zu Fuß in die Waschstraße zu gehen.
  2. Fähigkeiten steigen sprunghaft in verifizierbaren RL-Umgebungen wie Code oder stark vertretenen Trainingsdaten wie Schachpartien.
  3. Entwickler müssen prüfen, ob ihre Aufgabe trainierte RL-Schaltkreise nutzt oder menschliche Kontrolle und Fine-Tuning erfordert.
Gezackte IntelligenzVerifizierbare RL-UmgebungTrainingsdatenverteilungLLM-Fine-Tuning

Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.