Descrição
Custos de inferência LLM podem ser estimados a partir de preços de modelos e uso de tokens. Desenvolvedores e equipes de IA usam esta biblioteca para orçar chamadas de API, comparar provedores e relatar gastos previstos. Preços podem mudar e logs de uso podem revelar intenção do projeto, então entradas devem ser revisadas.