What is a Context Window? Unlocking LLM Secrets
3-Second Blueprint (English)
- LLMs process text as subword, character, or word tokens whose combined length defines the model's active working memory.
- Even 128K token windows fill rapidly once hidden system prompts, source code attachments, and RAG chunks are injected.
- Long contexts degrade middle-sequence self-attention and widen adversarial attack surfaces for embedded jailbreak prompts.
Subword TokenizationRAG ContextSelf-AttentionLLM Safety
3-Sekunden-Fazit (Deutsch)
- LLMs zerlegen Sprache in Zeichen-, Teilwort- oder Wort-Tokens, deren Gesamtzahl das aktive Arbeitsgedächtnis begrenzt.
- Selbst 128K-Kontextfenster füllen sich rasch durch verdeckte Systemprompts, angehängten Quellcode und RAG-Dokumentdaten.
- Lange Kontexte schwächen die Aufmerksamkeit in der Textmitte und vergrößern die Angriffsfläche für versteckte Jailbreaks.
Subwort-TokenisierungRAG-KontextSelf-AttentionLLM-Sicherheit
Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.