Descrição
Fornece o Ollama com suporte a ROCm para executar modelos de linguagem em GPUs AMD compatíveis. A aceleração por GPU pode melhorar a velocidade da inferência local quando hardware e drivers têm suporte.
Use quando o sistema tem GPU AMD compatível, pilha ROCm e VRAM suficiente para os modelos escolhidos. Hardware sem suporte ou modelos grandes podem falhar ou consumir muitos recursos.