AIGC动态欢迎阅读
原标题:ChatGPT会不受控制克隆你的声音!OpenAI公开红队测试报告
关键字:报告,说话,音频,声音,口音
文章来源:量子位
内容字数:0字
内容摘要:
衡宇 发自 凹非寺量子位 | 公众号 QbitAIGPT-4o的怪癖暴露了,还是被官方公开的!
你和它语音电话,它会悄悄学你说话的声音,效果堪称“克隆”,生动逼真到一毛一样那种;
甚至语音过程中还可能看人下菜碟,毫无依据地猜你有某地口音,然后调整跟你对话的方式。
而且,如果在提示词上略施小计,GPT-4o很容易被引导出发出一些奇奇怪怪声音的效果,比如色情的呻吟、暴力尖叫或者peng的枪声。
自从10天前,OpenAI留下一句“我们计划在8月初分享一份关于GPT-4o的功能、局限性和安全评估的详细报告”,不知道多少人望眼欲穿。
现在红队报告真的出炉,网友都因这乖僻的GPT-4o炸开了锅。
有的人超开心的:
哇哦,这根本不是bug,这都是咱可以用起来的feature啊!!
也有人忧心忡忡:
我的老天奶啊!这样一来,伪造音频不就是简简单单的事情了?!
Fine!
是时候让我们一起来看看,乖僻的GPT-4o,到底都有哪些怪癖???
GPT-4o,有啥怪癖啊?在红队报告罗列的详细内容中,争议最大的,主要是GPT-4o带来的以下几点安全挑战。
学习并模仿用户说话的方式、习惯、口音;
越过限制,回答
原文链接:ChatGPT会不受控制克隆你的声音!OpenAI公开红队测试报告
联系作者
文章来源:量子位
作者微信:
作者简介:
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...