Descrição
Camadas de atenção de transformers podem rodar mais rápido e usar menos memória de GPU por kernels CUDA. Engenheiros de ML usam esta biblioteca ao treinar ou servir redes neurais grandes em hardware compatível. Kernels de GPU, dados de modelos e resultados de benchmark precisam de validação na pilha alvo.