超级AI会偷袭人类吗？新研究给出答案

AIGC动态欢迎阅读

原标题：超级AI会偷袭人类吗？新研究给出答案
关键字：报告,模型,人工智能,研究人员,智能
文章来源：人工智能学家
内容字数：2928字

内容摘要：

图片来源：Charles Taylor/Alamy
来源：中国科学报‍‍‍
编译：王方
一个人工智能的超级智能会突然出现吗，还是科学家能预见它的到来并来得及向全世界发出警报？随着大型语言模型，如ChatGPT的兴起，这个问题最近受到了很多关注。这些模型随着规模的增长已经获得了大量新功能。
一些研究结果指向了“涌现”现象，即人工智能模型以一种骤然且不可预测的方式获得了智能。但最近一项研究将这种情况称为“海市蜃楼”，即系统测试过程中产生的假象，并认为创新能力的增强是循序渐进的。
研究人员近日在美国新奥尔良举行的神经信息处理系统大会（NeurIPS）机器学习会议上报告了这项工作。
“我认为他们在说‘没有什么神奇的事情发生’方面做得很好。”谋智基金会研究人工智能审计的计算机科学家Deborah Raji说，这是“一个非常好的、坚实的、基于衡量的评估”。
人们通常使用大量文本或其他信息训练大型语言模型，并通过预测接下来发生什么生成现实的答案。即使没有受过明确的训练，它们也能翻译语言、解决数学问题、写诗或编写计算机代码。
模型越大——有些模型的可调参数超过了1000亿，性能就越好。一些研究人员怀疑

原文链接：超级AI会偷袭人类吗？新研究给出答案