Descrição
Modelos de linguagem locais podem rodar por uma compilação de desenvolvimento do Ollama com suporte ROCm. Isso ajuda usuários a experimentar aceleração por GPU AMD e mudanças upstream mais recentes.
Ele pode baixar modelos, expor uma API local e usar muitos recursos de GPU. Compilações de desenvolvimento podem mudar rapidamente, então verifique compatibilidade antes de fluxos importantes.