是時候為 @ggml_org 的 llama.cpp 構建一個更簡單的用戶體驗了 🤗 在過去的兩年裡,我大部分時間都在使用 llama.cpp 來玩 LLM,並且也在生產中使用它。 雖然設置 llama.cpp 需要一些時間,但一旦完成,它就能 *正常* 工作! 請帶上你的想法/解決方案,告訴我們如何更好地打包它,讓人們更輕鬆地使用 llama.cpp ❤️
2.75K