Descrição
Computação de tensores com suporte a CUDA, Vulkan e OpenBLAS ajuda aplicações de aprendizado de máquina a usar aceleração disponível de CPU e GPU. A compilação Git é útil para projetos que acompanham o desenvolvimento atual do ggml.
Esta é uma biblioteca para cargas de IA e numéricas, não uma aplicação completa. O funcionamento correto depende de drivers, suporte da GPU, tamanho do modelo e do programa que a utiliza.