Descrição
Aceleração de GPU no estilo OpenCL por CLBlast pode tornar a inferência LLM local mais rápida em hardware compatível.
Este pacote é útil para usuários que precisam especificamente do backend CLBlast não oficial para llama.cpp. Ele é uma variante de build de inferência, não um modelo separado nem app de chat.
Backends de GPU podem depender de versões de driver e usar bastante energia ou memória. Teste a estabilidade antes de execuções longas.