Aus dem Maschinenraum
Insights
Technische Erfahrungsberichte aus unserer Arbeit mit lokaler KI — Hardware, Modelle, Benchmarks und was davon im Alltag wirklich funktioniert. Mit echten Messwerten statt Marketing.
Wenn die GPU vom Bus überfahren wird: Strom, Hitze und andere Lektionen aus unserem 8×3090-Rig
450 Watt Idle, Spitzen bis 3,1 Kilowatt, GDDR6X im Sommer und eine GPU, die unter mechanischem Druck vom Bus fällt: die Betriebslektionen aus unserem 8×3090-Rig — inklusive der Diagnosen, die nvidia-smi nicht zeigt.
Lesen →Acht RTX 3090, sieben Slots und sehr viele Kabel: So haben wir unser lokales LLM-Rig gebaut
192 GB VRAM aus acht gebrauchten Consumer-GPUs: Bifurkation, vollwertige PCIe-4.0-Riser, vier Netzteile und ein Holzrahmen — was zwischen „acht GPUs besitzen" und „acht GPUs stabil betreiben" wirklich liegt.
Lesen →