目录
扫描二维码关注公众号，回复：
14356350 查看本文章
SHAP的简介
SHAP，沙普利值，SHapley Additive exPlanations，沙普利添加和解释，是一种博弈论方法，是博弈论大师Lloyd S. Shapley(劳埃德·沙普利)提出来的一种针对合作博弈的解决方案。它被用于解释任何机器学习模型的输出。 它使用博弈论中的经典 Shapley 值及其相关扩展将最优信用分配与局部解释联系起来。
SHAP方法，现在经常用来解释大多数机器学习模型的输出。几乎可以给所有机器学习、深度学习提供一个解释的方案，包括树模型、线性模型以及神经网络模型。
官方文档：Welcome to the SHAP documentation — SHAP latest documentation
SHAP是如何评价树模型中的特征对于结果的贡献度？
从博弈论的角度，把数据集中的每一个特征变量当成一个玩家，用该数据集去训练模型得到预测的结果，可以看成众多玩家合作完成一个项目的收益。Shapley value通过考虑各个玩家做出的贡献，来公平的分配合作的收益。