Está na hora de construirmos uma UX mais fácil para o llama.cpp por @ggml_org 🤗 Usei o llama.cpp durante a maior parte dos últimos 2 anos para brincar com LLMs e também o utilizo em produção. Embora leve um tempo para configurar o llama.cpp, uma vez feito, ele *simplesmente* funciona! Venham com suas ideias/soluções sobre como podemos empacotá-lo melhor e torná-lo mais fácil para as pessoas usarem o llama.cpp com facilidade ❤️
2,75K