奥特曼惊呼奇点临近！95%人类饭碗将被AI抢走，2028年百万AI上岗

原标题：奥特曼惊呼奇点临近！95%人类饭碗将被AI抢走，2028年百万AI上岗
文章来源：新智元
内容字数：12272字

AGI临近：95%人类工作或将被取代？

近期，OpenAI CEO奥特曼和谷歌文档之父等业内人士接出意味深长的信号，引发了新一轮关于AGI（通用人工智能）的讨论和担忧。文章的核心观点是：AGI的临近可能导致95%以上的人类工作被取代，同时带来巨大的经济增长或灾难性风险。

1. AGI临近的信号与预测

奥特曼的“奇点临近；不知身处何方”的六字箴言，以及OpenAI安全研究员的感慨，都暗示着AGI的快速发展。谷歌文档之父Steve Newman预测，AGI将取代95%的人类工作，包括未来新创造的工作。Apollo Research联创Marius Hobbhahn则给出了更具体的AGI时间表，预测2027年AI将取代顶级AI研究员，2028年AI公司将拥有大量自动化AI研究员，大部分知识型工作将被自动化，2029年95%以上经济价值的任务将被AI自动化。

2. AGI的定义与潜在影响

Newman认为，AGI指的是AI能够以成本效益的方式取代超95%经济活动中的人类，包括未来新创造的工作。这将是世界显著改变的时刻。AGI的实现可能带来以下影响：

1. 经济超增长：AI推动科学和工程快速进步，大幅降低任务成本，提高决策效率，甚至使GDP一年内翻倍。
2. 灾难性风险：AI可能引发毁灭性网络攻击、致命流行病，或被用于加强统治，甚至失控摧毁人类。
3. 人类淘汰（经济领域）：AI可能终结资源稀缺，但前提是公平分配资源。
4. 技术突破：AI可能实现治愈衰老、太空殖民等科幻技术。

Newman强调，“可能发生”不等于“肯定发生”。技术突破可能变难，“奇点”不一定会出现。人类可能更倾向于人际互动，从而不会完全被AI取代。

3. AGI实现的条件与阈值效应

文章指出，经济超增长需要AI能够完成几乎所有经济活动，并能适应工作环境，而非反过来调整工作适应AI。 Dean Ball提出的“阈值效应”指出，技术进步可能在达到某个关键阈值时，突然引发巨大影响。对于AGI而言，这个阈值就是AI能够完成几乎所有经济价值任务，且无需调整任务来适应自动化。

4. 实现AGI的策略与挑战

Hobbhahn认为，AGI研发需要明确的风险评估、多层次防御和计划一致性。他强调了“忠实且人类可读的CoT（思维链）”的重要性，建议更多地关注模型推理过程的可理解性和可监控性，并减少“移除CoT”的研究。他提出了一系列监控模型和控制模型的策略，包括使用黑箱和白箱，以及对模型“图谋”行为的研究和评估。

文章最后总结，目前对如何实现AGI，研究者们几乎没有头绪，各种流派争论不休。但无论如何，AGI的潜在影响巨大，需要谨慎对待，并积极探索安全可控的研发路径。

联系作者

文章来源：新智元
作者微信：
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，领航中国新智能时代。