Descrição
Mudanças mais recentes do código-fonte llama.cpp ficam disponíveis para fluxos de inferência LLM local.
Este pacote Git é útil para desenvolvedores, testadores ou usuários que precisam do comportamento upstream atual antes de um release estável. Ele fornece ferramentas de inferência; arquivos de modelo compatíveis são separados.
Ferramentas de inferência em desenvolvimento podem mudar opções e comportamento rapidamente. Revise notas upstream antes de substituir uma build estável.