Del ett GPU til flere Proxmox-LXC-er uten VFIO
Slik deler du ett NVIDIA-GPU inn i flere uprivilegerte Proxmox-LXC-containere uten VFIO, med driver på verten og bind-mount pluss cgroup-regler i hver container.
GPU
Maskinvarekrav for å kjøre en 70B-modell lokalt
En 70B-modell trenger rundt 40 GB VRAM på 4-bit og 140 GB i fp16, og valget står mellom ett proff-kort, ett consumer-kort eller to kort med tensor-parallell.
Industri-PC krasjet på tomgang om natten: GPU-timeout (TDR) og strømsparing
En Windows-industri-PC krasjet på tomgang om natten, og årsaken var GPU-timeout og strømsparing, ikke CAM-programmet.