使用Grad-CAM进行深度学习模型可视化
类激活图CAM(class activation mapping)用于可视化深度学习模型的感兴趣区域,增加了神经网络的可解释性。现在常用Grad-CAM可视化,Grad-CAM基于梯度计算激活图,对比传统的CAM更加灵活,且不需要修改模型结构。
虽然计算grad-cam并不复杂,但是本着能导包就导包的原则,想着去用现成的库。
官方文档,开源仓库
类激活图CAM(class activation mapping)用于可视化深度学习模型的感兴趣区域,增加了神经网络的可解释性。现在常用Grad-CAM可视化,Grad-CAM基于梯度计算激活图,对比传统的CAM更加灵活,且不需要修改模型结构。
虽然计算grad-cam并不复杂,但是本着能导包就导包的原则,想着去用现成的库。
官方文档,开源仓库