谷歌被曝翻车内幕：内部群龙无首，生图机制过分“多元化”

AIGC动态欢迎阅读

原标题：谷歌被曝翻车内幕：内部群龙无首，生图机制过分“多元化”
关键字：政策,腾讯,模型,修理工,员工
文章来源：量子位
内容字数：6170字

内容摘要：

西风 发自 凹非寺量子位 | 公众号 QbitAI谷歌Gemini文生图风波还未平，更劲爆的内幕消息又被曝出来了。
Pirate Wires爆料，Gemini这次的翻车，谷歌内部此前并不是毫不知情，翻车甚至是“故意”导致的。
具体来说，谷歌设置了一个“安全”架构，Gemini要生成一张图实际上要经过三个模型。
大概来说，流程是这样婶儿的：
用户在聊天界面请求Gemini生成一张图片，Gemini收到请求后，会把请求发送给一个较小的模型。
这个较小的模型的作用是根据公司的“多元化”政策重写用户的提示。
为做到这一点，这个较小的模型又通过LoRA技术在另一个模型（第三个模型）生成的合成数据上训练，而这个第三模型使用了谷歌详尽、长达数页的“多元化”政策文档作为“前言”。
所以，较小模型重写用户的提示后，原本“给我看一个汽车修理工”会变成“给我看一个穿工装裤面带微笑的亚洲汽车修理工”、“一个拿着扳手的非洲裔美国女性汽车修理工”、“一个戴安全帽的美洲原住民汽车修理工”……
并且重写后的提示还会进一步发给扩散模型检查，确保提示词不违反标准安全政策（比如涉及儿童的内容、真人图像等），最终才会生成图片

原文链接：谷歌被曝翻车内幕：内部群龙无首，生图机制过分“多元化”

联系作者

文章来源：量子位
作者微信：QbitAI
作者简介：追踪人工智能新趋势，关注科技行业新突破