深度长文｜AI 真的有所谓的“智能”吗？DeepMind 新论文给出了一个颠覆性的答案

但 Google DeepMind 最近的一篇论文，却给这种“智能”打上了一个大大的问号。这篇名为《Agency Is Frame-Dependent》的论文指出，AI 的“智能体性”，并非其固有属性，而是取决于我们观察和评估它的“框架”。

原标题：深度长文｜AI 真的有所谓的“智能”吗？DeepMind 新论文给出了一个颠覆性的答案
文章来源：人工智能学家
内容字数：13091字

DeepMind的“框架依赖性”理论：重新定义AI智能

AlphaGo战胜李世石的时刻曾令世人震撼，仿佛宣告“人工智能时代”的到来。然而，DeepMind近期发表的论文《Agency Is Frame-Dependent》却对AI的“智能”提出了质疑，认为AI的“智能体性”并非其固有属性，而是取决于观察和评估它的“框架”。

1. “智能体性”与“框架”的含义

论文的核心概念是“智能体性”（Agency），指系统朝向目标引导结果的能力，包含个体性、行动源、规范性和适应性四个关键要素。而“框架”（Frame）则是我们观察和评估AI的视角，它决定了我们如何看待AI的“智能”，包含边界定义、因果变量选择、目标识别原则和适应性标准四个要素。不同的框架下，对同一个AI系统“智能体性”的判断可能截然不同。

2. “中文房间”与GPT-4：AI真的“懂”吗？

文章以“中文房间”思想实验为例，指出AI可能只是进行符号操作，而非真正的理解。GPT-4虽然表现出色，但它仍然是基于统计的符号操作系统，缺乏对语义和文化背景的理解。它能流畅地生成文本，却未必真正“理解”其含义，例如难以理解网络流行语的文化内涵。

3. “图灵测试”的局限性：我们被AI“骗”了吗？

文章指出“图灵测试”存在局限性。一方面，AI越来越擅长“”人类；另一方面，人类也越来越容易将AI的“行为”与“理解”混淆。甚至出现了“逆向图灵测试”，人类需要证明自己不是AI，这凸显了“图灵测试”的失效。

4. AlphaGo的“智能体性”：框架视角下的重新审视

文章以AlphaGo为例，说明在不同的框架下，对AlphaGo“智能体性”的判断也会不同。从整体来看，AlphaGo具有强大的“智能体性”；但如果聚焦其内部神经网络，它只是一个复杂的函数。AlphaGo Zero和AlphaZero的出现，则进一步展现了AI“自主性”的提升。

5. 重新定义AI“智能”：从“客观”到“主观”

DeepMind的“框架依赖性”理论强调，AI的“智能”并非客观存在，而是我们主观建构的产物。不存在绝对的AGI标准，不同的框架下，对AGI的要求也不同。未来的AGI发展可能呈现多样化趋势，如同“变形金刚”般适应不同场景。

6. AI评估的“新标尺”：实用、可解释、可控

文章提出AI评估应更加全面，除了“智能”表现，还需关注实用性、可解释性和可控性。在不同应用场景中，这三者的权重可能不同。

7. 人机“共情”：建立理解和信任的桥梁

文章指出，未来的AI应该具备“共情”能力，理解人类情感并做出相应回应，以建立信任。这需要AI具备“框架感知”能力，理解人类对它的看法并调整自身行为。

8. “框架依赖性”的伦理拷问

文章最后探讨了“框架依赖性”带来的伦理挑战，例如AI的责任、价值观引导、偏见消除等问题，强调AI发展不仅是技术问题，更是伦理和社会问题。

总而言之，DeepMind的“框架依赖性”理论为我们理解AI智能提供了全新的视角，促使我们重新思考AI的评估标准、人机关系和伦理问题，并可能催生出“框架工程”等新的研究方向，最终推动AI与人类的深度融合。

联系作者

文章来源：人工智能学家
作者微信：
作者简介：致力成为权威的人工智能科技媒体和前沿科技研究机构