ChatGPT确实会看人下菜！OpenAI官方报告揭示大模型的刻板印象

AIGC动态欢迎阅读

原标题：ChatGPT确实会看人下菜！OpenAI官方报告揭示大模型的刻板印象
关键字：印象,快手,报告,模型,用户
文章来源：机器之心
内容字数：0字

内容摘要：

机器之心报道
编辑：Panda、佳琪我们都知道，OpenAI 最近越来越喜欢发博客了。
这不，今天他们又更新了一篇，标题是「评估 ChatGPT 中的公平性」，但实际内容却谈的是用户的身份会影响 ChatGPT 给出的响应。
也就是说，OpenAI 家的 AI 也会对人类产生刻板印象！
当然，OpenAI 也指出，这种刻板印象（包括对性别或种族的刻板印象）很可能源自 AI 训练使用的数据集，所以归根结底，还是来自人类自身。OpenAI 的这项新研究探讨了有关用户身份的微妙线索（如姓名）对 ChatGPT 响应的影响。其在博客中表示：「这很重要，因为人们使用 ChatGPT 的方式多种多样，从帮助写简历到询问娱乐想法，这不同于 AI 公平性研究中的典型场景，比如筛选简历或信用评分。」论文标题：First-Person Fairness in Chatbots
论文地址：https://cdn.openai.com/papers/first-person-fairness-in-chatbots.pdf
同时，之前的研究更关注第三人称公平性，即机构使用 AI 来制定与其他人相关的决策；而这

原文链接：ChatGPT确实会看人下菜！OpenAI官方报告揭示大模型的刻板印象