哈佛教授发文警告：我们现在就需要控制AI智能体了

AIGC动态欢迎阅读

原标题：哈佛教授发文警告：我们现在就需要控制AI智能体了
关键字：智能,政策,报告,机器人,可能会
文章来源：人工智能学家
内容字数：0字

内容摘要：

来源：学术头条
【编者按】智能体的本质是帮人类用好人工智能（AI）。今年上半年，AI 著名学者、斯坦福大学教授吴恩达指出，智能体工作流将在今年推动 AI 取得巨大进步，甚至可能超过下一代基础模型。
智能体具有三大特质：智能体可以执行复杂任务、与外部世界互动，并无限期地运行。然而，当智能体形成数百万量级的庞大生态时，它们的行为可能不受控制，进而对人类社会产生重大危害。
近日，哈佛大学法学院教授、《互联网的未来》作者Jonathan Zittrain在The Atlantic杂志上发文称，我们应该立即对智能体的行为进行规范，并改进现有互联网标准，从而更好地控制智能体，防止它们失控。
此外，他还认为，适当的标准制定和监管措施可以在促进创新与确保安全之间找到平衡。学术头条在不改变原文大意的情况下，做了简单的编译。内容如下：
2010年，在 ChatGPT 和 Claude 以及所有其他侃侃而谈的对话 AI 模型兴起之前，一群机器人在纳斯达克和其他证券交易所短暂地抹去了 1 万亿美元的价值。为弄清楚发生了什么、为什么会发生以及如何防止再次发生，美国证券交易委员会（Securities and E

原文链接：哈佛教授发文警告：我们现在就需要控制AI智能体了