Descrição
Aceleração AMD ROCm pode melhorar a inferência LLM local em GPUs compatíveis.
Este pacote é útil para usuários com hardware AMD compatível que querem uma build do llama.cpp ajustada para ROCm. Ele é uma variante de backend de inferência, não um download de modelo.
Suporte ROCm depende de compatibilidade entre GPU, kernel e drivers. Confira a pilha antes de usar em sessões longas.