OpenAI官宣开源Transformer Debugger！不用写代码，人人可以破解LLM黑箱

AIGC动态欢迎阅读

原标题：OpenAI官宣开源Transformer Debugger！不用写代码，人人可以破解LLM黑箱
关键字：神经元,模型,编码器,研究人员,解释性
文章来源：新智元
内容字数：6806字

内容摘要：

新智元报道编辑：编辑部
【新智元导读】刚刚，OpenAI超级对齐团队负责人官宣开源Transformer调试器。研究人员不用写代码，就能快速探索LLM的内部构造了！AGI真的越来越近了！
为了确保人类不被AI杀死，在解密神经网络/Transfomer黑箱这一方面，OpenAI从未停下脚步。
去年5月，OpenAI团队发布了一个令人震惊的发现：GPT-4竟可以解释GPT-2的三十万神经元！
网友纷纷惊呼，智慧原来是这个样子。
而就在刚刚，OpenAI超级对齐团队负责人又正式官宣，要开源内部一直使用的大杀器——Transformer调试器（Transformer Debugger）。
简之，研究者可以用TDB工具分析Transformer的内部结构，从而对小模型的特定行为进行调查。
也就是说，有了这个TDB工具，未来它就可以帮我们剖析和分析AGI了！
Transformer调试器将稀疏自动编码器，与OpenAI开发的「自动可解释性」——即用大模型自动解释小模型，技术相结合。
链接：OpenAI炸裂新作：GPT-4破解GPT-2大脑！30万神经元全被看透
论文地址：https://open

原文链接：OpenAI官宣开源Transformer Debugger！不用写代码，人人可以破解LLM黑箱

联系作者

文章来源：新智元
作者微信：AI_era
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。