2.2 SHAP RCA

SHAP 归因模型介绍

概述

SHAP 归因模型分析每一个输入变量对与模型输出的影响大小

相关链接

原理

SHAP 分析并计算 每个输入变量的对模型输出的影响大小 i.e., shaply-value

原理实践

  • 假设 f 为文本分类模型。 该模型输入为文本，输出 [0,1]
  • 举例 文本输入为： text= ‘suprising twits and turns’。 本输入中包含 4 个输入变量 F={superising, twists, and , turns}
  • SHAP 模型 计算并输出 每一个变量的shaply-value
  • 以变量 superising 为例， 下面展示shaply-value的具体计算过程

动手实验

https://github.com/jackie930/financial-Forecast-RCA/tree/main/code/textcls_rca/code