ACM通信
ACM TechNews
拆包黑盒模型
研究人员已经创建了一个数学框架来评估机器学习模型的解释，并量化人们对它们的理解程度。
来源:麻省理工学院新闻/ iStockphoto
麻省理工学院和微软研究院的研究人员开发了一个数学框架，旨在量化和评估机器学习模型对其预测的解释的可理解性。
该框架称为ExSum(解释摘要)，可以在整个数据集上评估规则。ExSum允许用户根据三个指标来判断一条规则是否有效:覆盖范围，或者该规则在整个数据集中的适用范围;有效性，或个别例子中符合规则的百分比;还有清晰度，或者规则的精确程度。
麻省理工学院的Yilun Zhou说:“在这项工作之前，如果你有一个正确的本地解释，你就完成了。你已经达到了解释你的模型的圣杯。我们提出了这个额外的维度，以确保这些解释是可以理解的。”
从麻省理工学院的新闻
查看全文
版权所有©2022SmithBucklin，美国华盛顿特区
没有发现记录