LLM红队

LLM红队指对大型语言模型进行对抗性测试，通过模拟攻击手段检测模型的安全漏洞、偏见和不当输出，提升AI系统的鲁棒性。