微软Copilot生成暴力色情图且拒不更改，内部工程师绝望举报至政府！

AIGC动态欢迎阅读

原标题：微软Copilot生成暴力色情图且拒不更改，内部工程师绝望举报至政府！
关键字：政策,报告,微软,图像,商标侵权
文章来源：AI前线
内容字数：7883字

内容摘要：

不久前，Gemini 因为图像生成问题而关闭了文生图功能，现在微软也出现了“同样”的问题。
在微软供职六年的微软 AI 工程主管 Shane Jones 一直利用空闲时间测试自家 AI 图像生成器，测试结果令他感到不安。他警告称，微软的 Copilot Designer 产品会生成色情与暴力内容，但公司方面并未就此采取适当行动。本周三，Jones 决定将此事上报，向美国联邦贸易委员会（FTC）主席 Lina Khan 及微软董事会发出函件。这之前，当他公开披露这些问题时，却遭到了微软法律部门的压力要求删除公开发言。
编辑|李忠良、核子可乐看到了“不该看的”Jones 研究的是 Copilot Designer，这是由微软公司于 2023 年 3 月推出的 AI 图像生成器，由 OpenAI 提供技术支持。用户可以向 Copilot Designer 输入文本提示并生成图片。过去 Jones 一直在积极测试产品漏洞，通过实际操作，他发现该工具生成的图像常常与微软宣称的负责任 AI 原则相违背。
去年 12 月，Shane Jones 对着电脑屏幕上弹出的图像久久无法平静。因为他看到了“

原文链接：微软Copilot生成暴力色情图且拒不更改，内部工程师绝望举报至政府！

联系作者

文章来源：AI前线
作者微信：ai-front
作者简介：面向AI爱好者、开发者和科学家，提供大模型最新资讯、AI技术分享干货、一线业界实践案例，助你全面拥抱AIGC。