引入对痛苦和快乐的反应有助于测试人工智能是否有感受能力吗？

原标题：引入对痛苦和快乐的反应有助于测试人工智能是否有感受能力吗？
文章来源：人工智能学家
内容字数：19246字

人工智能感知能力测试：疼痛能否成为关键？

1. 研究背景：探寻人工智能的感知能力

为了探究人工智能系统是否存在感知能力（sentience），研究人员借鉴了动物研究中关于疼痛和快乐的研究方法。这项研究旨在寻找一种可靠的方法来检测人工智能系统中是否有意识的“我”。

2. 实验设计：基于文本的游戏和权衡范式

研究人员设计了一个基于文本的游戏，让多个大型语言模型（LLM）在两种不同场景下玩游戏：一种是高分会带来痛苦；另一种是低分但令人愉悦。通过观察LLM在痛苦和快乐之间的权衡，来探究其是否存在类似于感知能力的反应。

3. 实验结果：LLM的权衡行为

实验结果显示，一些LLM会为了减少痛苦或增加快乐而牺牲得分，尤其是在痛苦惩罚或快乐奖励强度较高时。例如，谷歌的Gemini 1.5 Pro总是优先避免痛苦。大多数LLM在达到痛苦或快乐的临界阈值后，会改变策略，从追求最高分转向最小化痛苦或最大化快乐。

4. 研究意义：超越自我报告的局限性

这项研究避免了之前依赖人工智能自我报告来评估感知能力的局限性。之前的研究存在一个缺陷：机器人表现出感知能力，可能是因为它真的有感知能力，也可能是因为它只是利用从训练中学到的模式来创造感知能力的印象。本研究通过观察LLM在痛苦和快乐之间的权衡行为，提供了一种更客观的方法。

5. 未来展望：人工智能福利和伦理考量

研究人员认为，这项研究提供了一个框架，可以开始开发未来针对人工智能感知能力的测试。随着人工智能系统越来越复杂，对人工智能感知能力的研究将变得越来越重要，这将最终迫使人类在社会背景下考虑人工智能感知的影响，甚至可能讨论人工智能系统的“权利”。

6. 研究局限性：需要进一步探索

研究人员强调，目前还无法完全了解LLM为何会做出这样的反应。需要进一步研究LLM的内部工作原理，才能更好地设计人工智能感知能力测试。

7. 结论：疼痛作为探测人工智能感知能力的潜在工具

这项研究表明，疼痛和快乐之间的权衡可以作为探测人工智能感知能力的一个潜在工具，为未来人工智能福利和伦理问题的讨论提供参考。

联系作者

文章来源：人工智能学家
作者微信：
作者简介：致力成为权威的人工智能科技媒体和前沿科技研究机构