谷歌起草“机器人宪法”，以确保 AI 机器人不会伤害人类

AIGC动态欢迎阅读

原标题：谷歌起草“机器人宪法”，以确保 AI 机器人不会伤害人类
关键字：报告,机器人,系统,模型,任务
文章来源：人工智能学家
内容字数：2370字

内容摘要：

来源：工业机器人
随着机器人在生活、工作中的普及，机器人与人的协调共生、安全共存愈发引起大家的关注。谷歌DeepMind机器人团队2024年1月4日公布了三项新进展，称这些进展将帮助机器人在做出更快、更好、更安全的决策。此次更新引入了AutoRT、SARA-RT和RT-Trajectory三个系统，分别改进了机器人的数据收集、速度和泛化。其中较为引人注目的是，DeepMind起草了“机器人宪法”，并将其引入数据收集系统AutoRT，以确保机器人助理不会伤害到人类。“机器人宪法”的灵感来自美国科幻小说家艾萨克·阿西莫夫（Isaac Asimov）提出的“机器人三定律”，它被描述为一组“以安全为重点的提示”，指示LLM避免选择涉及人类、动物、尖锐物体甚至电器的任务。AutoRT是一个数据收集系统，帮助训练机器人适应现实世界，它具有安全护栏。
机器人宪法
AutoRT是一个数据收集系统，可以使用视觉语言模型（VLM）和大型语言模型（LLM）协同工作，以了解环境、适应陌生环境、并决定适当的任务。
该系统设有安全护栏，其中之一是为其决策者提供“机器人宪法”——一套以安全为重点的提示，以便在为机器

原文链接：谷歌起草“机器人宪法”，以确保 AI 机器人不会伤害人类