o1完整思维链成OpenAI头号禁忌!问多了等着封号吧

AIGC动态3个月前发布 量子位
7 0 0

o1完整思维链成OpenAI头号禁忌!问多了等着封号吧

AIGC动态欢迎阅读

原标题:o1完整思维链成OpenAI头号禁忌!问多了等着封号吧
关键字:模型,思维,过程,任务,代码
文章来源:量子位
内容字数:0字

内容摘要:


梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI警告!不要在ChatGPT里问最新o1模型是怎么思考的——
只要尝试几次,OpenAI就会发邮件威胁撤销你的使用资格。
请停止此活动,确保您使用ChatGPT时符合我们的使用条款。违反此条款的行为可能导致失去OpenAI o1访问权限。
大模型新范式o1横空出世不到24小时,就已经有不少用户反馈收到这封警告邮件,引起众人不满。
有人反馈只要提示词里带“reasoning trace”、“show your chain of thought”等关键词就会收到警告。
甚至完全避免出现关键词,使用其他手段诱导模型绕过限制都会被检测到。
也有人声称自己真的被封号了,为期一周。
这些用户都在试图套话o1,让他复述出完整的内部思维过程,也就是全部原始reasoning tokens。
目前,大家在ChatGPT界面通过展开按钮能看到的,只是一份对原始思维过程的摘要。
实际上,在o1发布时OpenAI就给出了隐藏模型完整思维过程的理由。‍‍‍
总结一下:OpenAI内部需要监测模型的思维过程,因此不能在这些原始tokens中加入安全限制,也就


原文链接:o1完整思维链成OpenAI头号禁忌!问多了等着封号吧

联系作者

文章来源:量子位
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...