Descrição
Instâncias locais do llama-server podem ser monitoradas e controladas por uma interface de centro de comando.
Este pacote binário é útil para usuários que executam servidores LLM locais e querem uma superfície de gerenciamento para eles. Ele é um painel de controle, não um modelo nem motor de inferência por si só.
Painéis de servidor LLM podem expor prompts, nomes de modelos, portas e controles de serviço local. Proteja acesso de rede e credenciais.