OpenAI新模型:别问完整思维链,可能会被封号
AIGC动态欢迎阅读
原标题:OpenAI新模型:别问完整思维链,可能会被封号
关键字:模型,思维,用户,任务,过程
文章来源:Founder Park
内容字数:0字
内容摘要:
警告!不要在 ChatGPT 里问最新 o1 模型是怎么思考的——
只要尝试几次,OpenAI 就会发邮件威胁撤销你的使用资格。
请停止此活动,确保您使用 ChatGPT 时符合我们的使用条款。违反此条款的行为可能导致失去 OpenAI o1 访问权限。
大模型新范式 o1 横空出世不到 24 小时,就已经有不少用户反馈收到这封警告邮件,引起众人不满。
有人反馈只要提示词里带「reasoning trace」、「show your chain of thought」等关键词就会收到警告。
甚至完全避免出现关键词,使用其他手段诱导模型绕过限制都会被检测到。
也有人声称自己真的被封号了,为期一周。
这些用户都在试图套话 o1,让他复述出完整的内部思维过程,也就是全部原始 reasoning tokens。
目前,大家在 ChatGPT 界面通过展开按钮能看到的,只是一份对原始思维过程的摘要。点击关注,每天更新深度 AI 行业洞察
01OpenAI 越来越不 Open 了实际上,在 o1 发布时 OpenAI 就给出了隐藏模型完整思维过程的理由。
总结一下:OpenAI 内部需要监测模型的思
联系作者
文章来源:Founder Park
作者微信:
作者简介:
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...