HuggingFace Daily Papers(社区热门论文)
49
通过 Fisher 信息度量模型鲁棒性:谱界、理论保证与实用算法
AI 摘要
提出基于 Fisher 信息矩阵(FIM)谱范数的攻击无关鲁棒性度量,量化模型输出对输入扰动的 worst-case 敏感度。理论上证明 FIM 等于输入 Jacobian 的方差,并推导出 VGG、ResNet、DenseNet、Transformer 等架构的闭式谱界,给出首个理论鲁棒性排序。开发基于幂迭代和 Hutchinson 估计的高效算法,支持白盒与黑盒场景。在 CIFAR、ImageNet、医学图像等数据集上的实验表明,该度量与对抗脆弱性高度相关。代码已开源。
该来源未收录可展示正文,站内仅提供摘要。
阅读原文arxiv.org