Brain-Score 89/100 TECH Vizuara · 1:48

What exactly is a vision transformer?

What exactly is a vision transformer?
Watch in DeepScroll Feed → Watch Original on YouTube

3-Second Blueprint (English)

  1. Split an image into fixed 16x16 pixel tiles, flatten each patch, and project it linearly into patch embedding vectors.
  2. Add positional embeddings to preserve spatial layout and prepend a learnable CLS token to summarize global image features.
  3. Unlike local CNN kernels, multi-head self-attention lets every patch attend across the entire image from the very first layer.
Vision Transformer (ViT)Patch EmbeddingsSelf-AttentionComputer Vision

3-Sekunden-Fazit (Deutsch)

  1. Das Bild wird in feste 16x16-Pixel-Kacheln zerlegt, abgeflacht und per Linear-Layer in Patch-Embeddings projiziert.
  2. Positions-Embeddings sichern die räumliche Ordnung, während ein vorangestelltes CLS-Token den globalen Bildkontext sammelt.
  3. Anders als lokale CNN-Filter verknüpft Self-Attention bereits ab der ersten Schicht alle Bildbereiche global miteinander.
Vision Transformer (ViT)Patch-EmbeddingsSelf-AttentionComputer Vision

Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.