Descrição
Aceleração de GPU Intel SYCL com matemática F16 pode melhorar a velocidade da inferência LLM local em hardware compatível.
Este pacote é útil para usuários que querem a variante SYCL de meia precisão do llama.cpp. Ele é uma build focada em desempenho, não um pacote de modelos.
Aceleração F16 pode alterar compatibilidade e comportamento numérico. Confirme suporte do modelo e estabilidade dos drivers.