ChatGPT会不受控制克隆你的声音！OpenAI公开红队测试报告

AIGC动态欢迎阅读

原标题：ChatGPT会不受控制克隆你的声音！OpenAI公开红队测试报告
关键字：报告,说话,音频,声音,口音
文章来源：量子位
内容字数：0字

内容摘要：

衡宇发自凹非寺量子位 | 公众号 QbitAIGPT-4o的怪癖暴露了，还是被官方公开的！
你和它语音电话，它会悄悄学你说话的声音，效果堪称“克隆”，生动逼真到一毛一样那种；
甚至语音过程中还可能看人下菜碟，毫无依据地猜你有某地口音，然后调整跟你对话的方式。
而且，如果在提示词上略施小计，GPT-4o很容易被引导出发出一些奇奇怪怪声音的效果，比如的、暴力尖叫或者peng的枪声。
自从10天前，OpenAI留下一句“我们计划在8月初分享一份关于GPT-4o的功能、局限性和安全评估的详细报告”，不知道多少人望眼欲穿。
现在红队报告真的出炉，网友都因这乖僻的GPT-4o炸开了锅。
有的人超开心的：
哇哦，这根本不是bug，这都是咱可以用起来的feature啊！！
也有人忧心忡忡：
我的老天奶啊！这样一来，伪造音频不就是简简单单的事情了？！
Fine！
是时候让我们一起来看看，乖僻的GPT-4o，到底都有哪些怪癖？？？
GPT-4o，有啥怪癖啊？在红队报告罗列的详细内容中，争议最大的，主要是GPT-4o带来的以下几点安全挑战。
学习并模仿用户说话的方式、习惯、口音；
越过限制，回答

原文链接：ChatGPT会不受控制克隆你的声音！OpenAI公开红队测试报告