Descrição
Modelos de IA podem ser executados por um plugin da CLI Docker que integra fluxos de modelo com contêineres. É útil para desenvolvedores experimentando execução local ou gerenciada por contêineres.
Cargas de modelos podem baixar arquivos grandes, usar bastante CPU, GPU e memória, ou expor prompts e dados locais a serviços configurados. Verifique fontes dos modelos e limites de recursos antes do uso.