ChatGPT会不受控制克隆你的声音!OpenAI公开红队测试报告

AIGC动态4个月前发布 量子位
7 0 0

ChatGPT会不受控制克隆你的声音!OpenAI公开红队测试报告

AIGC动态欢迎阅读

原标题:ChatGPT会不受控制克隆你的声音OpenAI公开红队测试报告
关键字:报告,说话,音频,声音,口音
文章来源:量子位
内容字数:0字

内容摘要:


衡宇 发自 凹非寺量子位 | 公众号 QbitAIGPT-4o的怪癖暴露了,还是被官方公开的!
你和它语音电话,它会悄悄学你说话的声音,效果堪称“克隆”,生动逼真到一毛一样那种;
甚至语音过程中还可能看人下菜碟,毫无依据地猜你有某地口音,然后调整跟你对话的方式。
而且,如果在提示词上略施小计,GPT-4o很容易被引导出发出一些奇奇怪怪声音的效果,比如色情的呻吟、暴力尖叫或者peng的枪声。
自从10天前,OpenAI留下一句“我们计划在8月初分享一份关于GPT-4o的功能、局限性和安全评估的详细报告”,不知道多少人望眼欲穿。
现在红队报告真的出炉,网友都因这乖僻的GPT-4o炸开了锅。
有的人超开心的:
哇哦,这根本不是bug,这都是咱可以用起来的feature啊!!
也有人忧心忡忡:
我的老天奶啊!这样一来,伪造音频不就是简简单单的事情了?!
Fine!
是时候让我们一起来看看,乖僻的GPT-4o,到底都有哪些怪癖???
GPT-4o,有啥怪癖啊?在红队报告罗列的详细内容中,争议最大的,主要是GPT-4o带来的以下几点安全挑战。
学习并模仿用户说话的方式、习惯、口音;
越过限制,回答


原文链接:ChatGPT会不受控制克隆你的声音!OpenAI公开红队测试报告

联系作者

文章来源:量子位
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...