Yoshua Bengio独家专访：我不想把大模型未来押注在Scaling Law上，AGI路上要“注意安全”

AIGC动态欢迎阅读

原标题：Yoshua Bengio独家专访：我不想把大模型未来押注在Scaling Law上，AGI路上要“注意安全”
关键字：神经网络,人类,模型,问题,人工智能
文章来源：人工智能学家
内容字数：26155字

内容摘要：

来源：智源社区
导读漫长的30年间，数度从主流方向的超然出走，是Bengio的制胜秘诀。这种不盲从主流的风格体现在他研究生涯的方方面面。
90年代末期，神经网络被打入冷宫，Bengio的论文多次遭拒，连学生们也开始担心，和他一起研究神经网络会导致毕业后找不到工作。
“那场有关神经网络的文化沙漠可能‘劝退’了很多研究者，但我有点固执，坚信我们应该坚持下去。”而时过境迁，如今神经网络早已成为主流，审稿人的看法也发生了翻天覆地的变化。
此时，Bengio却已经开始研究新方向，寻找新问题。“我认为不能把所有鸡蛋放在一个篮子里，我们应该探索更多不同的方法。在过去的七年里，我一直在努力探索当前神经网络方法的局限性，这样才能让未来的人工智能具备当前缺乏的能力。”
谈及现如今Scaling Law催生的模型性能大爆发，Bengio依然保持着客观审慎的思考，他认为“Scaling Law并不是理论定律，只是基于经验性观察总结的规律。为了解决大模型目前存在的问题，我们需要探索Scaling Law之外的新方法。”
在OpenAI等巨头纷纷为AGI的到来摩拳擦掌之时，Bengio更关心的是如何应对AI对人类

原文链接：Yoshua Bengio独家专访：我不想把大模型未来押注在Scaling Law上，AGI路上要“注意安全”