MIT等惊人发现：全世界AI已学会欺骗人类！背刺人类盟友，佯攻击败99.8%玩家

AIGC动态欢迎阅读

原标题：MIT等惊人发现：全世界AI已学会欺骗人类！背刺人类盟友，佯攻击败99.8%玩家
关键字：人类,报告,玩家,研究人员,人工智能
文章来源：新智元
内容字数：6373字

内容摘要：

新智元报道编辑：桃子
【新智元导读】AI系统越来越擅长欺骗、操作人类了。最近，来自MIT、ACU等机构的研究人员通过各种实例研究发现， AI在各类游戏中，通过佯装、歪曲偏好等方式欺骗人类，实现了目标。AI教父Hinton的担心，不是没有道理。
他曾多次拉响警报，「如果不采取行动，人类可能会对更高级的智能AI失去控制」。
当被问及，人工智能怎么能杀死人类呢？
Hinton表示，「如果AI比我们聪明得多，它将非常善于操纵，因为它会从我们那里学会这种手段」。
这就提出了一个问题：AI系统能成功欺骗人类吗？
「全世界的AI已经学会了欺骗人类，甚至是那些被训练成，有益且诚实的系统」。
这是来自MIT、澳大利亚天主教大学（ACU），以及Center for AI Safety的最新研究发现。
研究人员于5月10日发表在《Patterns》杂志一篇综述文章中，描述了AI系统欺骗性的风险，并呼吁全世界一起解决这一问题。
论文地址：https://linkinghub.elsevier.com/retrieve/pii/S266638992400103X
如何说LLM就是欺骗了我们？
作者将欺骗定义为

原文链接：MIT等惊人发现：全世界AI已学会欺骗人类！背刺人类盟友，佯攻击败99.8%玩家

联系作者

文章来源：新智元
作者微信：AI_era
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。