Captum

Captum是一个用于模型可解释性的PyTorch库。它提供了理解和归因PyTorch模型预测的工具和技术，涵盖不同的数据类型，包括视觉和文本。Captum支持大多数PyTorch模型，并允许轻松实现和基准测试新的可解释性算法。