llama.cpp Router-Modus auf AMD iGPU in Proxmox LXC
Dieser Leitfaden beschreibt die Einrichtung von llama.cpp im Router-Modus, um die AMD Radeon 780M iGPU über Vulkan innerhalb eines Proxmox LXC-Containers zu nutzen. Er skizziert den Prozess des Baus der notwendigen Komponenten, der Einrichtung eines systemd-Dienstes für den kontinuierlichen Betrieb…