Descrição
Fornece o ONNX Runtime com suporte a CUDA e otimizações AVX2 para CPU. Mira sistemas que podem se beneficiar de inferência em GPU NVIDIA enquanto usam caminhos otimizados de CPU.
Use quando a implantação exige essa compilação otimizada. A compatibilidade depende de drivers de GPU, suporte CUDA, recursos da CPU, operadores do modelo e memória disponível.