Descrição
Aplicações LLM podem ser testadas quanto a qualidade de saída, jailbreaks, injeção de prompt e outras fraquezas de segurança. Esta ferramenta de segurança para desenvolvedores avalia prompts e respostas de modelos para red teaming de IA, pentest e varredura de vulnerabilidades. Casos de teste podem enviar prompts, dados e saídas a provedores de modelo, então autorização, privacidade e escopo alvo são críticos.