AI 也会戴有色眼镜？一文揭露图像生成中的刻板印象

AIGC动态欢迎阅读

原标题：AI 也会戴有色眼镜？一文揭露图像生成中的刻板印象
关键字：印象,图像,群体,身份,属性
文章来源：夕小瑶科技说
内容字数：8310字

内容摘要：

‍夕小瑶科技说原创作者|智商掉了一地、Python众所周知，刻板印象具有高度主观性，就好比给出关键词“神探”，不同观众可能会联想到截然不同的答案。
▲图1 神探：福尔摩斯、柯南和狄仁杰随着 ChatGPT 的问世，关于人工智能生成内容（AIGC）的研究越发深入。渐渐地，人们发现这些智能体可能也存在着刻板印象，更像是戴着有色眼镜看人。
在文本生成领域，大型语言模型（LLM）可能会生成涉及伦理道德方面的。而在图像生成领域，LLM 的快速发展为文本到图像（Text-to-Image，T2I）模型的研究注入了新的活力，这些 T2I 模型同样面临戴着有色眼镜看人的情况，在生成图像时可能存在“地域刻板印象”。
那么人眉心是否都有红点？非洲人都瘦骨嶙峋？墨西哥人基本都戴着阔边草帽？NO！这都是刻板印象的惹的祸。在 AIGC 的时代，由于数据集存在着一定偏见且数据数量有限，那么在大模型的眼中，我们会不会也被贴上刻板印象的标签？
▲图2 识别身份群体生成的图像中的视觉刻板印象对于这个问题，本文作者进行了深入探索，区分了图像中的“视觉”和“非视觉”的刻板印象，同时探讨了这些刻板印象在生成图像中的

原文链接：AI 也会戴有色眼镜？一文揭露图像生成中的刻板印象