西湖大学提出AIGC检测框架，精准识别AI撰写的文稿

AIGC动态欢迎阅读

原标题：西湖大学提出AIGC检测框架，精准识别AI撰写的文稿
关键字：模型,上下文,解读,句子,文章
文章来源：夕小瑶科技说
内容字数：0字

内容摘要：

夕小瑶科技说 原创作者 | Richard近年来人工智能技术突飞猛进，尤其是大语言模型的出现，让AI具备了创作文章、小说、剧本等内容的能力。
AI代写，已经逃不过老师、编辑、审稿人的火眼金睛了。但让AI仅改写部分片段，就安全了么？
针对检测AI改写的片段，西湖大学发布了一种叫做”篡改文本片段检测”(PTD)的新方法，它能精确识别文本中哪些片段是由AI生成或改写的，让AI改写的文本无处遁形！
传统的AI文本检测通常只能判断整篇文章是否出自AI之手，但PTD可以更细粒度地定位到文章的特定片段。文章通过实验表明，即使AI擅长模仿人类的写作风格，经过训练的检测模型仍然能从上下文线索中识别出机器的”笔迹”。这一方法不仅在已知模型上取得了超过95%的识别准确率，在未知模型上的表现也令人惊喜。通过细致的统计和实验分析，研究者发现改写句子与原文及上下文存在显著差异，这为检测提供了重要线索。此外，该方法还能有效抵御各类对抗性攻击，为传统的AI文本检测模型保驾护航。这一研究为我们提供了透过AI改写文本的完美伪装，看清其中潜藏风险的利器。
这项研究引发了一个有趣的思考：在AI主导内容生产的时代，人类原创的价

原文链接：西湖大学提出AIGC检测框架，精准识别AI撰写的文稿

联系作者

文章来源：夕小瑶科技说
作者微信：xixiaoyaoQAQ
作者简介：专业、有趣、深度价值导向的科技媒体。聚集30万AI工程师、研究员，覆盖500多家海内外机构投资人，互联网大厂中高管和AI公司创始人。一线作者来自清北、国内外顶级AI实验室和大厂，兼备敏锐的行业嗅觉和洞察深度。商务合作：zym5189