常见问题 - AWS 规范性指导

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

常见问题

有很多未讨论过的确定特征重要性的方法。为何没有提及它们?

本指南侧重于我们认为最有效、最直接的模型可解释性方法。其他方法在速度和计算简便性方面有优势,并且取决于模型可能适用。本文中的指导原则系规范性,而非禁止性。

推荐的方法有什么弱点?

SHAP 需要从所有特征组合的加权平均值中得出的归因。当特征之间存在很强的交互作用时,以这种方式获得的归因在估计特征重要性时可能会产生误导。基于积分梯度的方法可能难以解释,因为大型神经网络中存在的维度数庞大。模型可以以意想不到的方式使用特征来达到一定的性能水平,并且这些特征可能因模型而异,因此特征重要性始终取决于模型。