机器学习中的 Shapley 值怎么理解

hncszz

我第一次听说 Shapley 值是在学习模型可解释性的时候。我知道了  SHAP，它是一个框架，可以更好地理解为什么机器学习模型会那样运行。事实证明，Shapley 值已经存在了一段时间，它们最早起源于 1953  年的博弈论领域，目的是解决以下情况：

• 一群拥有不同技能的参与者为了集体奖励而相互合作。那么，如何在小组中公平分配奖励?
  

当一个「旧」概念被应用到另一个领域，如机器学习，关于它是如何获得新的应用是非常有趣的。在机器学习中，参与者是你输入的特征，而集体支出是模型预测。在这种情况中，Shapley  值用于计算每个单独的特征对模型输出的贡献。
如何计算 Shapley 值?大多数时候，你倾向于在文献中看到这个等式：
让我们把它分解一下。在一个联盟游戏(前面描述的场景)中，我们有一组 N 个玩家。我们还有一个函数 v，它给出了这些参与者的任何子集的值，也就是说，S 是  N 的子集，然后 v(S)给出了该子集的值。因此，对于一个联合博弈(N，v)，我们可以使用这个方程来计算玩家 i 的贡献，即 Shapley 值。