The Non-NVIDIA AI Card Everyone’s Ignoring
3-Second Blueprint (English)
- Tenstorrent Wormhole cards replace GPU SIMD pipelines with an on-chip network of Tensix cores, each housing five RISC-V processors.
- Dual-chip Wormhole n300 provides 24GB memory at 576 GB/s bandwidth, scaling to 164 tok/s across eight concurrent LLM requests.
- Hardware viability hinges on software maturity, as newly released frontier LLM architectures still lag behind NVIDIA CUDA porting.
Tenstorrent WormholeTensix RISC-V CoresNetwork-on-ChipLLM Inference Server
3-Sekunden-Fazit (Deutsch)
- Tenstorrent-Wormhole-Karten nutzen statt klassischer GPU-Pipelines ein On-Chip-Netzwerk aus Tensix-Kernen mit je fünf RISC-V-CPUs.
- Die Dual-Chip-Karte n300 bietet 24 GB Speicher mit 576 GB/s Bandbreite und erreicht bei acht parallelen Anfragen 164 Tokens/s.
- Entscheidend bleibt der Software-Stack, da neue LLM-Architekturen deutlich später als unter NVIDIA CUDA portiert werden.
Tenstorrent WormholeTensix-RISC-V-KerneNetwork-on-ChipLLM-Inferenzserver
Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.