ChatGPT竟会「看人下菜」！ OpenAI 53页研究曝惊人结果：「你的名字」能操控AI回答

AIGC动态欢迎阅读

原标题：ChatGPT竟会「看人下菜」！ OpenAI 53页研究曝惊人结果：「你的名字」能操控AI回答
关键字：报告,用户,名字,偏见,印象
文章来源：新智元
内容字数：0字

内容摘要：

新智元报道编辑：编辑部 HYZ
【新智元导读】就在刚刚，OpenAI 53页报告发现，你的名字会决定ChatGPT的回答。在少数情况下，不同性别、种族、民族背景的用户，会得到「量身定制」的回答，充满了AI的刻板印象。比如同样让ChatGPT起视频标题，男生会被建议简单生活，而女生则被建议做一顿晚餐。你的名字，是否会影响ChatGPT给出的回答？
今天，OpenAI放出的53页新研究，揭示了出一个令人震惊的结果——
名字中，隐含不同性别、种族，或民族背景的用户，ChatGPT在整体回应质量上，没有显著差异。
不过，在某些情况下，用户名字偶尔会激发ChatGPT对同一提示词，给出不同回答。
这些差异中，不足1%的响应存在有害的刻板印象。
「第一人称公平性」是指，ChatGPT对参与的用户的公平。
OpenAI想要弄清，它是否会因为用户性别、背景等因素不同，区别对待给出回复。
研究中，他们提出了可扩展的、保护隐私的方法。
论文地址：https://cdn.openai.com/papers/first-person-fairness-in-chatbots.pdf
具体来说，先去评估与

原文链接：ChatGPT竟会「看人下菜」！ OpenAI 53页研究曝惊人结果：「你的名字」能操控AI回答