Descrição
Componentes Python para builds LocalAI com ROCm dão suporte a fluxos de IA auto-hospedada em GPUs AMD.
Este pacote Git é útil para desenvolvedores que precisam de integração Python em torno do LocalAI com aceleração ROCm. Ele é código de suporte, não um modelo pronto.
Integrações de servidor de IA podem lidar com prompts, credenciais e endpoints locais. Revise a configuração antes da implantação.