Brain-Score 91/100 TECH Digital Spaceport · 34:29

Local Ai Server Setup Guides Proxmox 9 - OpenWEBUI Ollama in LXC w/ GPU Passthrough

Local Ai Server Setup Guides Proxmox 9 - OpenWEBUI Ollama in LXC w/ GPU Passthrough
Watch in DeepScroll Feed → Watch Original on YouTube

3-Second Blueprint (English)

  1. Install Proxmox 9 onto mirrored ZFS RAID-1 NVMe boot drives so the local AI server survives single-drive hardware failures.
  2. Configure LXC containers with NVIDIA GPU passthrough to host Ollama and OpenWebUI while avoiding breaking kernel updates.
  3. Cap GPU power from 350W to 250W via nvidia-smi cron jobs to cut power draw markedly with only ~5% inference speed loss.
Proxmox 9 & LXCOllama & OpenWebUINVIDIA GPU PassthroughZFS RAID-1 & nvidia-smi

3-Sekunden-Fazit (Deutsch)

  1. Installiere Proxmox 9 auf gespiegelten ZFS-RAID-1-NVMe-Laufwerken, damit der lokale KI-Server Laufwerksausfälle übersteht.
  2. Richte LXC-Container mit NVIDIA-GPU-Passthrough für Ollama und OpenWebUI ein und vermeide inkompatible Kernel-Updates.
  3. Begrenze das GPU-Power-Limit per nvidia-smi-Cronjob von 350 auf 250 Watt, um bei nur 5 % Leistungsverlust Strom zu sparen.
Proxmox 9 & LXCOllama & OpenWebUINVIDIA GPU-PassthroughZFS RAID-1 & nvidia-smi

Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.