红队攻防

红队攻防指模拟攻击者行为对AI系统进行安全测试，通过对抗性攻击和漏洞挖掘来评估模型鲁棒性，防范恶意利用。