Descrição
Operações de tensores para aprendizado de máquina a partir do ramo Git ajudam aplicações a testar mudanças atuais do ggml usando aceleração OpenBLAS e Vulkan. Ele é útil para ferramentas locais de inferência e projetos de pesquisa que acompanham o desenvolvimento upstream.
Este pacote não inclui um modelo nem uma interface de usuário. As aplicações decidem quais dados são processados, e modelos grandes podem exigir bastante memória, armazenamento e recursos de GPU.