Temporal Difference Learning (including Q-Learning) | Reinforcement Learning Part 4
3-Second Blueprint (English)
- Synthesizing Sutton & Barto, Temporal Difference (TD) learning updates state estimates via bootstrapping without full episodes.
- Increasing lookahead steps n propagates rewards faster per episode but introduces higher update variance than 1-step TD.
- Q-Learning modifies the TD control target to bootstrap off the maximum next-action value rather than the sampled policy action.
Sutton & Barto RLTD LearningQ-LearningSARSAMonte Carlo
3-Sekunden-Fazit (Deutsch)
- Nach Sutton & Barto aktualisiert Temporal-Difference-Lernen (TD) Zustandswerte per Bootstrapping vor Episodenende.
- Größere Schrittweiten n verbreiten Belohnungen schneller pro Episode, erhöhen aber das Rauschen gegenüber 1-Schritt-TD.
- Q-Learning passt das TD-Ziel an, indem es über den maximalen Folgeaktionswert statt der gewählten Policy-Aktion schätzt.
Sutton & Barto RLTD-LernenQ-LearningSARSAMonte-Carlo
Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.