Descrição
Computação de tensores para aplicações de aprendizado de máquina ajuda modelos a executar operações matemáticas com eficiência em CPUs e GPUs compatíveis com Vulkan. Ela é útil para motores locais de inferência, ferramentas de IA e código de pesquisa construído sobre ggml.
Este pacote é uma biblioteca, não um chatbot nem um modelo por si só. Desempenho e uso de memória dependem do modelo, do hardware e da aplicação que a chama.