Brain-Score 94/100 TECH StatQuest with Josh Starmer · 20:45

Long Short-Term Memory (LSTM), Clearly Explained

3-Second Blueprint (English)

  1. Vanilla RNNs repeatedly multiply inputs by recurrent loop weights across steps, causing gradients to vanish or explode.
  2. LSTMs preserve long-range gradients via a cell-state path updated by gated addition and multiplication without direct weights.
  3. Sigmoid gates (`[0,1]`) and `tanh` activations (`[-1,1]`) coordinate forget, input, and output stages to update hidden states.
LSTM NetworksRecurrent Neural NetsVanishing GradientsSigmoid & Tanh Gates

3-Sekunden-Fazit (Deutsch)

  1. Klassische RNNs multiplizieren Eingaben wiederholt mit Rückkopplungsgewichten, wodurch Gradienten verschwinden oder explodieren.
  2. LSTMs schützen Langzeitgradienten über einen Cell-State-Pfad ohne direkte Gewichte, gesteuert durch Addition und Multiplikation.
  3. Sigmoid-Gates (`[0,1]`) und `tanh`-Aktivierungen (`[-1,1]`) regeln Forget-, Input- und Output-Stufen für den Hidden State.
LSTM-NetzwerkeRekurrente Netze (RNN)Vanishing GradientsSigmoid- & Tanh-Gates

Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.