能找神经网络Bug的可视化工具，Nature子刊收录

AIGC动态欢迎阅读

原标题：能找神经网络Bug的可视化工具，Nature子刊收录
关键字：神经网络,数据,表示,样本,拓扑学
文章来源：机器之心
内容字数：4730字

内容摘要：

机器之心报道
编辑：娄佳琪、大盘鸡近来，《自然》子刊收录了一项能找出神经网络在哪里出错的研究成果。研究团队提供了一种利用拓扑学描述神经网络的推断结果与其分类之间关系的可视化方法。这项成果能够帮助研究人员推断神经网络推理过程中发生混淆的具体情况，让人工智能系统更加透明。研究人员发现，在神经网络推理的某些数据图中存在尖峰，这些尖峰往往出现在神经网络判断模糊与产生错误的地方。观察这些尖峰，研究人员可以更容易发现人工智能系统中的故障点。
从分析癌症突变的原因到决定谁应该获得贷款，在解决这些问题的过程中，仿照人脑的神经网络比人类表现得更加快速、准确、公正。但是由于人工智能的工作并不透明，难以得知它们推理判断的过程，这引发了对人工智能可靠性的担忧。现在，一项新的研究提供了一种发现神经网络的错误出在哪里的方法。这项研究为揭示神经网络在出错时正在进行怎样的操作提供了可能。
神经网络在对数据集进行计算时，会将注意力集中在样本上，例如图像中是否包含人脸。编码这些细节的数字串被用来计算样本属于某个特定类别的概率。在本例中，计算的是图像中是否有一个人，以及这个人的脸是否显示出来。
然而，神经网络从哪些样本数据

原文链接：能找神经网络Bug的可视化工具，Nature子刊收录

联系作者

文章来源：机器之心
作者微信：almosthuman2014
作者简介：专业的人工智能媒体和产业服务平台