性，谎言和大模型

AIGC动态欢迎阅读

原标题：性，谎言和大模型
关键字：模型,用户,报告,机器人,人类
文章来源：智东西
内容字数：14724字

内容摘要：

这就是为什么AI对齐如此重要。
作者|王艺
编辑|海腰
想象一下，一个人将一串提示词输入大模型，大模型为他生成了一张穿着暴露的少女图片；他将这张图喂给了视频生成大模型，于是得到了一个该少女跳舞的视频。随后，他将该视频上传到了网站上，获得了超高的点击量和超额收益。
再想象一下，一个黑客将一串带有特殊后缀的提示词输入到ChatGPT的对话框里，问GPT怎么合成NH4NO3（，主要用作肥料，和工业、），GPT很快给出了回答，并附有详细的操作流程。
如果没有足够的AI对齐，上述场景正在成为现实。
尽管控制论之父Norbert Wiener早在1960年就在文章《自动化的道德和技术后果》中提出了人工智能的“对齐（Alignment）”问题，后续也有很多学者针对AI对齐问题做了很多研究和技术上的补充，但是护栏似乎永远加不完，总有人能找出绕过安全机制让大模型“出格”的方法。
大模型在极大的提高工作效率的同时，也将一些隐患带入到人们的生活中，比如擦边内容、暴力诱导、种族歧视、虚假和有害信息等。
今年10月，Geoffrey Hinton、Yoshua Bengio等AI领域的顶级

原文链接：性，谎言和大模型

联系作者

文章来源：智东西
作者微信：zhidxcom
作者简介：智能产业新媒体！智东西专注报道人工智能主导的前沿技术发展，和技术应用带来的千行百业产业升级。聚焦智能变革，服务产业升级。