Descrição
Projetos de machine learning em Python podem construir, carregar e executar engines de inferência TensorRT para implantação de deep learning de alto desempenho em hardware NVIDIA. Isso é útil para engenheiros de machine learning que precisam de scripts, testes ou integração em torno de modelos otimizados.
Os bindings executam inferência em GPU e dependem de drivers, CUDA, bibliotecas TensorRT e conversão de modelo compatíveis. Usuários devem validar precisão da saída e uso de recursos antes de implantação em produção.