Descrição
Modelos Transformer podem executar inferência de forma eficiente em aplicativos e serviços C++. Isso é útil para tradução, fala e outras cargas de aprendizado de máquina em que velocidade de implantação e uso de recursos importam.
É uma biblioteca de desenvolvimento, não um aplicativo pronto de chat ou tradução. Normalmente são necessários arquivos de modelo e código de aplicação que saiba chamar a biblioteca.