AI提示安全测试分类聚焦提示注入、内容合规与模型鲁棒性检测,汇集AI提示安全扫描、提示词漏洞检测、内容风险过滤等工具,支持一键检测提示注入、识别有害输出、生成安全报告,帮助开发者快速发现模型风险、保障AI应用安全上线。
Promptfoo是开源LLM提示安全测试平台,提供红队扫描、回归对比与CI集成,面向AI工程师与合规团队,10分钟发现漏洞并节省80%测试时间。
返回顶部