Descrição
Modelos de linguagem locais podem rodar com suporte ROCm corrigido para GPUs AMD. Isso ajuda usuários a testar inferência de IA em hardware AMD quando a compilação padrão não se ajusta ao sistema.
É uma variante do Ollama para aceleração por GPU. Verifique compatibilidade do ROCm, memória da GPU, licenças dos modelos e privacidade dos prompts antes do uso em produção.