shap

现今建立各种机器学习模型的套件很多，但是最常被诟病的是如何去解释建立出来的机器学习模型。 尤其是若需要将模型应用到与人高度相关的行业中，如：金融业决定是否要发信用卡、医疗业协助诊断疾病等，若无法解释模型，常会导致使用者或老板不敢用、不相信模型之问题。 实际上现在已经有很多工具套件来协助解释机器学习模型