Cross Attention | Method Explanation | Math Explained
3-Second Blueprint (English)
- Cross-attention conditions generative models by projecting Queries (Q) from latent image pixels and Keys/Values (K, V) from text tokens.
- Separate learned weight matrices map heterogeneous image and text embedding dimensions into a shared d_k vector space for dot products.
- Row-wise softmax over scaled QK^T weights Value vectors so each pixel aggregates relevant semantic cues through residual skip paths.
Cross-AttentionQuery-Key-Value (QKV)Scaled Dot-ProductStable DiffusionTransformers
3-Sekunden-Fazit (Deutsch)
- Cross-Attention konditioniert Diffusionsmodelle, indem Queries (Q) aus Bildpixeln und Keys/Values (K, V) aus Text-Tokens stammen.
- Separate Gewichtsmatrizen projizieren unterschiedliche Bild- und Textdimensionen für Skalarprodukte in einen gemeinsamen d_k-Unterraum.
- Zeilenweises Softmax über QK^T gewichtet Value-Vektoren, sodass jedes Pixel relevante Textsemantik über Residual-Pfade aufnimmt.
Cross-AttentionQuery-Key-Value (QKV)Skaliertes SkalarproduktStable DiffusionTransformer
Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.