Descrição
Modelos de linguagem compatíveis podem executar inferência por uma interface de linha de comando.
Este pacote é útil para usuários que querem prompts ou scripts LLM conduzidos pelo terminal. Ele fornece um fluxo por CLI; não garante que um modelo esteja incluído nem que respostas sejam corretas.
Ferramentas de inferência podem processar prompts privados e usar serviços externos ou locais. Confira a configuração antes de enviar dados sensíveis.