他们掰开神经元，终于让大模型9.8大于9.11了：神秘创业公司，开源AI「洗脑」工具

AIGC动态欢迎阅读

原标题：他们掰开神经元，终于让大模型9.8大于9.11了：神秘创业公司，开源AI「洗脑」工具
关键字：神经元,模型,报告,系统,用户
文章来源：机器之心
内容字数：0字

内容摘要：

机器之心报道
机器之心编辑部大模型为什么认为 9.8<9.11？神经元级别的解释来了。9.8 和 9.11 到底哪个大？这个小学生都能答对的问题却难倒了一众大模型，很多模型输出的结果都是「9.8<9.11」。为什么模型会集体出错？AI 研究者们总结了很多可能的原因，比如模型会把 9.11 拆解成 9/./11 三部分，然后拿 11 去和 8 作比较；也有人猜测，大模型会把 9.8 和 9.11 当成日期或版本号……
这些解释听起来都有些道理，但如果我们能够直观地「看到」模型出错的原因，那么我们对于问题的归因会更加准确，解决问题的速度也会更快。
刚刚官宣的 AI 研究实验室 Transluce（字面意思是让光线穿过某物以揭示其结构） 就在做这件事情。他们开发了一个名叫 Monitor 的交互界面，以帮助人类观察、理解和引导语言模型的内部计算。
透过 Monitor，我们先来看看 AI 模型为什么会觉得 9.11 比 9.8 更大。
首先，让模型比较一下这两个数的大小，当然它没有意外地出错了。Monitor 提供了快捷的方式帮助我们分析其错误。将光标放在出错的位置，可以看到模型在此处预测的

原文链接：他们掰开神经元，终于让大模型9.8大于9.11了：神秘创业公司，开源AI「洗脑」工具

联系作者

文章来源：机器之心
作者微信：
作者简介：