Brain-Score 89/100 TECH 3Blue1Brown · 0:59

How word vectors encode meaning

3-Second Blueprint (English)

  1. Language models split input text into tokens and map each token to a high-dimensional numeric vector called an embedding.
  2. Training aligns semantic concepts and attributes with distinct geometric directions in this high-dimensional vector space.
  3. Linear vector arithmetic captures relational analogies, such as adding (woman − man) to uncle to land near the vector for aunt.
Word EmbeddingsHigh-Dimensional VectorsTokenizationVector Arithmetic

3-Sekunden-Fazit (Deutsch)

  1. Sprachmodelle zerlegen Text in Tokens und ordnen jedem Token einen hochdimensionalen Zahlenvektor (Embedding) zu.
  2. Beim Training werden semantische Eigenschaften bestimmten geometrischen Richtungen im hochdimensionalen Vektorraum zugeordnet.
  3. Lineare Vektorarithmetik bildet Analogien ab: Addiert man (Frau − Mann) zum Vektor für Onkel, landet man nahe bei Tante.
Wort-EmbeddingsHochdimensionale VektorenTokenisierungVektorarithmetik

Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.