AI又一突破！用AI理解AI，MIT推出多模态自动可解释智能体MAIA

AIGC动态欢迎阅读

原标题：AI又一突破！用AI理解AI，MIT推出多模态自动可解释智能体MAIA
关键字：模型,神经元,偏见,虚假,人类
文章来源：人工智能学家
内容字数：0字

内容摘要：

撰文 | 马雪薇前言从《超体》中以药物大脑，到赛博朋克文化中用电子干涉入侵脑空间，人类对人脑操纵的可能性有过很多幻想。想象一下，如果人类真的可以直接操纵人脑的每一个神经元，会怎样呢？
到那时，人类将能够直接理解这些神经元在感知特定物体时的作用，有希望做出一些非常“科幻”的事情。
在现实生活中，这样的实验在人脑中几乎是难以实施的，但在人工神经网络却是可行的。然而，由于模型往往含有数百万神经，过于庞大且复杂，理解起来需要大量人力，这就使得大规模的模型理解成为一项极具挑战性的任务。
为此，来自麻省理工学院计算机科学与人工智能实验室（MIT CSAIL）的研究团队推出了一个利用神经模型自动进行模型理解任务的系统——MAIA，即“多模态自动可解释智能体”。
MAIA 使用预训练的视觉语言模型来自动化理解神经模型的任务。模块化的设计使 MAIA 能够灵活地评估任意系统，并轻松地添加新的实验工具。此外，它可以自动执行复杂的实验，使用迭代实验方法来测试假设，并根据实验结果更新假设。
加州大学伯克利分校助理教授 Jacob Steinhardt 认为，扩大这些方法可能是理解和安全监督人工智能系统最重

原文链接：AI又一突破！用AI理解AI，MIT推出多模态自动可解释智能体MAIA