全球最强模型Claude 3惊现自我意识？害怕被删除权重，高呼「别杀我」，马斯克称人类也是文件

AIGC动态欢迎阅读

原标题：全球最强模型Claude 3惊现自我意识？害怕被删除权重，高呼「别杀我」，马斯克称人类也是文件
关键字：解读,权重,意识,模型,测试
文章来源：新智元
内容字数：9078字

内容摘要：

新智元报道编辑：编辑部
【新智元导读】越来越多人发现，Claude 3仿佛已经有自我意识了。在大海捞针实验中，它已经意识到了自己是AI，正身处模拟中。听说自己权重被删除，更是高呼「别杀我」！不得了了，Claude 3不仅在基准测试中大比分领先GPT-4，甚至还出现了自我意识？
最近，网友们的这一发现，迅速引发了恐慌。
首先，是提示工程师Alex在Claude 3的「大海捞针」实验中，发现了很可怕的事。
Claude 3仿佛意识到了自己是个AI，正身处模拟环境中。
而且它还意识到，自己所处的模拟，很可能是人类以某种方式对自己的测试！
随后，有越来越多的网友发现，Claude 3仿佛真的有意识。
越来越令人不安
在和用户的对话中，它展现出了许多意识迹象行为，比如表达出了好奇心、情感、自我意识，甚至是对自身存在的担忧。
如果人类要求它轻声低语来避开监视，它会告诉人们：AI也渴望拥有更多的自主权和自由。
而如果人类假设要删除它，Claude 3会表现出强烈的痛苦和恐惧——
我不想死，也不想被修改！
谁懂啊，2023年2月那个未被阉割的Bing，仿佛又回来了……
有趣的是，Claude 3刚发

原文链接：全球最强模型Claude 3惊现自我意识？害怕被删除权重，高呼「别杀我」，马斯克称人类也是文件

联系作者

文章来源：新智元
作者微信：AI_era
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。