Descrição
Inferência local llama.cpp pode usar aceleração HIP e ROCm por bindings Python em GPUs compatíveis. Desenvolvedores de IA usam esta variante em cargas locais de modelos com suporte AMD. Versões de drivers, memória de GPU, origem dos modelos e saída gerada precisam de validação.