Descrição
Código atual de aceleração SYCL F16 fica disponível para llama.cpp em GPUs Intel compatíveis.
Este pacote Git é útil para testadores que precisam das mudanças SYCL de meia precisão mais recentes. Ele é uma build de inferência em desenvolvimento, não um pacote de modelos.
Builds de GPU em desenvolvimento podem mudar rapidamente e falhar em drivers sem suporte. Teste com cuidado antes de depender delas.