[AI]
#LLM
2025.07.27 · 閱讀時間: 5 分鐘
窮人版AI叢集!我做了一個把家裡電腦串起來跑 LLM 的專案,速度飆升2倍!(Llama.cpp 分散式推理)
如果你也是個 AI 愛好者,肯定對在本機端運行大型語言模型 (LLM) 不陌生。但隨之而來的,就是那令人頭痛的 VRAM 焦慮。現在表現好一點的開源模型,像是 Gemma 3 27B
閱讀全文
→
1982 字