- 综合排序
- 最热优先
- 最新优先
- 来自专栏磐创AI技术团队的专栏
可交互的 Attention 可视化工具！我的Transformer可解释性有救了？
乔治亚理工最近提出了DODRIO，一种可交互的Attention可视化工具，从句法和寓意层面总结了不同注意力头的信息。Transformer的可解释性终于有救啦？ 一些结论 本文的可视化方法再一次验证了一些之前BERT可解释性文章的结论。例如：BERT的中间层更关注句法信息，以及BERT最后1-2层是分类的关键等。 Visualizing and Understanding Neural Models in NLP (https://www.aclweb.org/anthology/N16-1082.pdf) [2]
8.2K40发布于 2021-05-11 - 来自专栏学习
机器学习——解释性AI与可解释性机器学习
本文将深入探讨解释性AI与可解释性机器学习的概念、方法和代码实现，帮助读者全面理解这一重要主题。 1. 为什么需要解释性AI？ 这意味着需要开发能够解释其决策的模型或方法，解释性AI因此成为一个重要研究方向。 2. 解释性AI的分类 可解释性可以从多个维度来考虑： 可解释性 vs 可理解性：可解释性通常指通过后处理方法使复杂模型变得可解释，而可理解性更侧重于构建本身就易于解释的模型。 可解释性机器学习的方法 3.1 模型本身具有可解释性 一些简单的模型具有天然的可解释性，例如： 线性回归：通过模型系数可以直接理解特征对预测的影响。 选择一个样本进行解释 sample = X[25] explanation = explainer.explain_instance(sample, rf.predict_proba, num_features=2)
1.1K10编辑于 2024-10-19 - 来自专栏CSDNToQQCode
解释性AI（XAI）
解释性AI（XAI）是什么 解释性AI，也称为XAI（Extended AI），是一种综合了多种AI技术的智能系统或工具，旨在帮助人们理解和解释数据、信息和知识，以辅助决策制定。 可解释性模型：XAI系统可以使用可解释性模型来解释机器学习模型的工作原理和决策过程，帮助用户理解模型的预测结果。 在安全领域，可解释性AI可以帮助识别和解释潜在的安全威胁，从而提高安全性。 四、可解释性AI的评估与度量 评估和度量AI的可解释性是一个重要的问题。 五、可解释性AI的未来发展 可解释性AI有很大的发展潜力，未来的发展趋势包括算法改进、数据标准化和自动化解释方法等。随着技术的发展，我们可能会看到更多的自动化工具和平台用于评估和改进AI的可解释性。 六、可解释性AI的实践经验与案例分析 在实际应用可解释性AI的过程中，一些实践经验包括使用可视化技术来展示AI决策过程、使用人类判断法来评估AI的可解释性以及使用决策树分析法来理解模型决策等。
1.1K10编辑于 2024-02-01 - 来自专栏AI
模型可解释性
模型可解释性：LIME与SHAP等可解释工具随着深度学习和复杂机器学习模型的普及，模型的可解释性（Model Interpretability）成为了一个日益重要的议题。 模型可解释性的背景模型可解释性主要是指能够清晰地理解和解释机器学习模型的预测依据。传统的机器学习模型，如线性回归、决策树等，相对易于理解，用户可以直观地看到模型是如何做出预测的。 因此，模型可解释性成为了研究人员和实践者必须解决的核心问题。2. 模型可解释性的实际意义模型可解释性不仅仅是一个学术问题，它在实际应用中具有重要意义：增加模型的信任度：特别是在高风险行业，如医疗、金融等，理解模型的预测依据对于增强用户和监管机构的信任至关重要。 ，详细介绍了如何通过不同的方法提高机器学习模型的可解释性。
1.2K10编辑于 2025-02-02 - 来自专栏AI科技评论
视频 | 2分钟论文：用谷歌「AI可解释性」看懂机器学习
点进这篇文章发现，Jeff Dean 意指论文《The Building Blocks of Interpretability》（译名：可解释性的基石）在神经网络可视化方面的新进展。
773111发布于 2018-03-29 - 来自专栏计算机视觉工坊
人脸识别的可解释性
作者丨孙裕道 编辑丨极市平台 导读 人脸识别的可解释性是深度学习领域中的一个很大挑战，当前的方法通常缺乏网络比较和量化可解释结果的真相。 自然深度学习中的很重要领域人脸识别的可解释性也是一个很大的挑战，当前在这方面探索的方法有网络注意力、网络解剖或综合语言解释，然而，缺乏网络比较和量化可解释结果的真相，尤其是在人脸识别中近亲或近亲之间的差异很微妙 ：LightCNN、VGGPFACE2和SNET-101。 模型介绍 人脸识别的可解释性(XFR) 该论文的创新点可能是从Facenet中得到一定的灵感。XFR的目的是解释人脸图像之间的匹配的内在关系。 实验数据 作者使用三个目标网络在修复数据集上运行修复游戏评估协议分别是LightCNN，VGGFace2。 ResNet-50和一个定制训练的ResNet-101。
2.9K20发布于 2020-11-11 - 来自专栏科学最Top
时间序列关于可解释性值得关注的论文汇总-第2篇
前言 这是时序可解释性论文汇总的第二篇，第一篇见这里（后台回复：“论文合集”可直接获取整理的文章）。深度学习的可解释性研究一直是热门，而时间序列的可解释性同样非常重要。 1、论文标题：TEMPORAL DEPENDENCIES IN FEATURE IMPORTANCE FOR TIME SERIES PREDICTION（ICLR23） 时间序列数据为可解释性方法带来了两个关键挑战 本文中提出了一种基于特征移除的可解释性方法——时间窗口特征重要性（WinIT），以解决这些问题。 通过实证研究，并与一系列领先的可解释性方法进行了比较，作者探讨了各种评估策略的影响。结果表明：WinIT在现有方法上取得了显著的提升，并且在不同的评估指标上表现出更一致的性能。 2、论文标题：N-BEATS: NEURAL BASIS EXPANSION ANALYSIS FOR INTERPRETABLE TIME SERIES FORECASTING（ICLR20） 本研究致力于应用深度学习技术解决单变量时间序列的点预测问题
68310编辑于 2024-09-18 - 来自专栏【腾讯云开发者】
代码质量第2层-可重用的代码！
可重用的代码指：在相似业务场景下，用的是同一份代码。 可重用的代码可以减少重复劳动。一个软件中，会有很多类似的业务场景。将这些场景抽象成可重用的代码。开发新功能时，重用代码可减少重复劳动。 可重用的代码可以减少因需求变动，导致多次改动和漏改的情况。试想，要修改全站提交按钮的颜色，如果全站有100个包含提交按钮的页面，每个页面的按钮的样式都没复用，这改动量和漏改的风险都很大。 如果做成可重用的，则只需改动一处。 一、如何写出可重用的代码 代码块的职责越多，越难被复用。写出可重用的代码就是：识别，分离出可复用的部分。 要改成可复用的代码，就是将可复用的UI，获取接口数据的代码独立出来。 下面，我们来看些常见的可复用的部分和复用方法。 （一）UI展示 UI展示为外观的展示，包含：HTML和CSS。 二、总结 要写出可重用的代码，本质就是识别和分离出可复用的部分。前端可以从UI展示，接口调用，业务流程，数据，工具函数中找出可复用的部分。 代码质量的下一层次就是：可重构的代码。
1.2K20编辑于 2022-01-20 - 来自专栏九彩拼盘的叨叨叨
代码质量第 2 层 - 可重用的代码
可重用的代码指：在相似业务场景下，用的是同一份代码。 可重用的代码可以减少重复劳动。一个软件中，会有很多类似的业务场景。将这些场景抽象成可重用的代码。开发新功能时，重用代码可减少重复劳动。 如果做成可重用的，则只需改动一处。 如何写出可重用的代码 代码块的职责越多，越难被复用。写出可重用的代码就是：识别，分离出可复用的部分。 考虑这样的场景：代码块A 的功能是获取接口数据，并渲染 UI。 q-sign-algorithm=sha1&q-ak=AKID2uZ1FGBdx1pNgjE3KK4YliPpzyjLZvug&q-sign-time=1639471665;1639478865&q-key-time q-sign-algorithm=sha1&q-ak=AKID2uZ1FGBdx1pNgjE3KK4YliPpzyjLZvug&q-sign-time=1639471684;1639478884&q-key-time 总结 要写出可重用的代码，本质就是识别和分离出可复用的部分。前端可以从 UI 展示，接口调用，业务流程，数据，工具函数 中找出可复用的部分。 代码质量的下一层次就是：可重构的代码。
1.4K20编辑于 2021-12-14 - 来自专栏《云荐大咖》
代码质量第 2 层 - 可重用的代码
3金伟强---（+云荐大咖）.jpg可重用的代码指：在相似业务场景下，用的是同一份代码。 可重用的代码可以减少重复劳动。一个软件中，会有很多类似的业务场景。将这些场景抽象成可重用的代码。 开发新功能时，重用代码可减少重复劳动。 可重用的代码可以减少因需求变动，导致多次改动和漏改的情况。 如果做成可重用的，则只需改动一处。 如何写出可重用的代码？ 代码块的职责越多，越难被复用。写出可重用的代码就是：识别，分离出可复用的部分。 要改成可复用的代码，就是将可复用的 UI，获取接口数据的代码独立出来。 下面，我们来看些常见的可复用的部分和复用方法。 一、UI 展示 UI 展示为外观的展示，包含：HTML 和 CSS。 总结 要写出可重用的代码，本质就是识别和分离出可复用的部分。前端可以从 UI 展示，接口调用，业务流程，数据，工具函数 中找出可复用的部分。 代码质量的下一层次就是：可重构的代码。
4.1K102编辑于 2022-01-17 - 来自专栏编程随想曲
代码重构之引入解释性变量
意图 临时变量可以帮助你将表达式分解为比较容易管理的形式 在较长的算法中，可以运用临时变量来解释每一步运算的意义 示例 /** * 引入解释性变量之前 * Created by luo on 2017 something } } private boolean wasInitialized() { return false; } } /** * 引入解释性变量之后
39420编辑于 2022-04-21 - 来自专栏曲奇的博客
机器学习模型的可解释性
可解释性的范围 全局可解释 这个层级的可解释性指的是，模型如何基于整个特征空间和模型结构、参数等作出决策的。什么特征是重要的，特征交互会发生什么。 因此局部可解释性可能相比全局可解释，更加准确点。 1.3 可解释的模型 最简单的机器学习可解释性就是直接使用可解释模型，比如逻辑回归、线性模型、决策树。 然后使用新的可解析的特征和prediction作为label来训练新的简单模型（例如LR），然后使用简单模型的权重作为这些特征的重要性作为输出。 就是选择一个样本以及样本附近的点，然后训练一个简单模型来拟合，虽然简单模型不能在完整数据集上有效，但至少在这个点附近都是有效的，这个简单模型的特征是人类可解析的，而训练出的权重也可以表示特征重要性。 Stat. 2008, 2, 916–954. Fisher, A.; Rudin, C.; Dominici, F.
2.4K20编辑于 2021-12-14 - 来自专栏CSDN小华
机器学习模型的可解释性
机器学习模型的可解释性 机器学习模型的可解释性是指人类能够理解并理解决策原因的程度，这在业务应用中尤为重要。高可解释性的模型不仅有助于开发人员在建模阶段理解模型，还能在必要时进行优化调整。 可解释性的重要性体现在多个方面： 辅助决策：可解释性使人们更容易理解为什么模型做出了某些决定或预测，从而提高对模型的信任度和接受度。 最新的机器学习模型可解释性技术和方法有哪些？ 最新的机器学习模型可解释性技术和方法主要包括以下几种： 局部可解释性工具：这类工具旨在解释模型在特定输入上的行为。 解释性工具的应用：利用各种解释性工具和技术，如局部可解释模型不可解释性（LIME）、集成梯度（IG）等，帮助理解模型的预测过程和结果。 近年来，学术界已经开发出许多可解释性工具和方法，如局部可解释性、规则可解释性和概念可解释性等。未来，这些工具和方法将不断完善，并在实际应用中得到更广泛的应用。
82610编辑于 2024-10-16 - 来自专栏大数据文摘
6个机器学习可解释性框架！
可解释性旨在帮助人们理解： 如何学习的? 学到了什么? 针对一个特定输入为什么会做出如此决策? 决策是否可靠? with condaconda install -c conda-forge shapbr 使用Shap库构建瀑布图 使用Shap库构建Beeswarm图 使用Shap库构建部分依赖图 LIME 在可解释性领域 与外形/石灰解释性有关。它可以使用SHAP/Lime作为后端，也就是说它只提供了更好看的图表。 InterpretML展示了两种类型的可解释性：glassbox模型——为可解释性设计的机器学习模型（如：线性模型、规则列表、广义可加模型）和黑箱可解释性技术——用于解释现有系统（如：部分依赖，LIME 使用统一的API并封装多种方法，拥有内置的、可扩展的可视化平台，该包使研究人员能够轻松地比较可解释性算法。
2.6K40编辑于 2022-10-10 - 来自专栏腾讯云TI平台
【技术分享】机器学习模型可解释性
可解释性特质： 重要性：了解“为什么”可以帮助更深入地了解问题，数据以及模型可能失败的原因。 分类：建模前数据的可解释性、建模阶段模型可解释性、运行阶段结果可解释性。 对于模型按预期工作的关键利益相关者而言，这应该是可证明且易于理解的。这确保了模型的透明度。 2.png 全局可解释：就是试图理解“模型如何进行预测？”和“模型的子集如何影响模型决策？”。要立即理解和解释整个模型，我们需要全局可解释性。 在他的论文中，他还讨论了PD图的局限性，并提供了有关如何为大数据生成可缩放图的建议。 然后使用新的可解析的特征和prediction作为label来训练新的简单模型（例如LR），然后使用简单模型的权重作为这些特征的重要性作为输出。
4.3K54编辑于 2021-12-22 - 来自专栏前端一会
编写可维护代码2：数据检测的较佳实践
编写可维护的代码规则第2篇。 本篇将来讨论下数据类型检测的较好实践。 首先是空比较的问题，有时会出现将变量与null值进行比较的情况，例如： if(val ! 至于引用类型中的数组检测，现在有两种比较好的最佳实践： var arr = [10, 2, 'A']; console.log(Array.isArray(arr)); //true Array.isArray
44320发布于 2019-08-29 - 来自专栏斜述视角
自然语言处理 | 隐马尔可夫模型（2）
图3 隐马尔可夫模型“程序猿心情状态”案例升级版
41820发布于 2018-08-20 - 来自专栏IT码农
yii2限制必须登录才可访问代码
public function behaviors() { return [ 'access' => [ 'class' => AccessControl::className(), 'rules' => [ [ 'allow' => true, 'roles' => ['@'], ], ], ], ]; }
46721编辑于 2022-01-10 - 来自专栏六点半就起来干博客！
机器学习——解释性AI（Explainable AI）
机器学习——解释性AI（Explainable AI） 解释性AI（Explainable AI）——让机器学习模型更加透明与可信 随着人工智能（AI）和机器学习（ML）在多个领域的广泛应用，理解模型的决策过程变得尤为重要 什么是解释性AI？ 解释性AI指的是一系列方法和技术，旨在帮助人们理解AI模型的输出如何生成。通过引入解释性层，AI系统不仅能提供预测结果，还能解释这些预测背后的逻辑。 解释性AI的优势 透明度：XAI通过提供详细的解释，确保用户能理解模型的决策过程。 公平性：解释性AI有助于识别和纠正模型中的潜在偏差，确保AI决策的公平性【44†source】。 解释性AI（Explainable AI）——揭开机器学习模型的“黑盒” 在当今人工智能和机器学习技术广泛应用的背景下，解释性AI（Explainable AI, XAI） 变得尤为重要。 法律合规性：在某些行业中，法律规定要求AI系统具备可解释性，XAI有助于满足这一需求【76】。 结论 解释性AI为AI系统的透明性和公平性提供了强有力的支持。
89510编辑于 2024-10-16 - 来自专栏Datawhale专栏
图神经网络的解释性综述！
Introduction 2. 2. 总体框架 目前存在一系列针对深度图模型解释性问题的工作，这些方法关注图模型的不同方面，并提供不同的观点来理解这些模型。它们一般都会从几个问题出发实现对图模型的解释：哪些输入边更重要？ 软掩码被随机初始化，并被视为可训练变量。然后通过元素点乘将掩码与原始图结合。最大化原始图的预测和新获得的图的预测之间的互信息来优化掩码。 2）RelEx RelEx[57]结合代理方法和基于扰动的方法的思想，研究节点分类模型的可解释性。 BA-2Motifs：它是一个具有2种不同图标签的图形分类数据集。
1.6K40发布于 2021-05-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号