Descrição
Acesso local a modelos Ollama pode ser organizado para fluxos de API compatíveis com OpenAI por um metapacote.
Este pacote é útil para desenvolvedores que querem instalar juntos componentes LiteLLM e Ollama. Ele agrupa dependências; não é um modelo por si só.
Serviços locais de modelo podem consumir bastante CPU, GPU, memória e disco. Revise fontes dos modelos e portas de API expostas.