常见问题解答

有很多未讨论过的确定特征重要性的方法。为何没有提及它们？

本指南侧重于我们认为最有效、最直接的模型可解释性方法。其他方法在速度和计算简便性方面有优势，并且取决于模型可能适用。本文中的指导原则系规范性，而非禁止性。

推荐的方法有什么弱点？

SHAP 需要从所有特征组合的加权平均值中得出的归因。当特征之间存在很强的交互作用时，以这种方式获得的归因在估计特征重要性时可能会产生误导。基于积分梯度的方法可能难以解释，因为大型神经网络中存在的维度数庞大。模型可以以意想不到的方式使用特征来达到一定的性能水平，并且这些特征可能因模型而异，因此特征重要性始终取决于模型。