大模型变身双面人：虚假新闻制造机VS假新闻鉴别大师！

AIGC动态欢迎阅读

原标题：大模型变身双面人：虚假新闻制造机VS假新闻鉴别大师！

关键字：模型,语言,虚假,文本,论据

文章来源：夕小瑶科技说

内容字数：6087字

内容摘要：夕小瑶科技说 原创作者 | 付奶茶、Python大家是怎样看待大型语言模型生成信息的可靠性呢？尽管大语言模型生成的内容“像模像样”，但这些模型偶尔的失误揭示了一个关键问题：它们生成的内容并不总是真实可靠的。那么，这种“不保真”特性能否被用来制造虚假信息呢？最近，一篇论文正好针对这一议题进行了探讨：我们能否利用大型语言模型来制造虚假的信息？论文题目：《Disinformation Capabilities of Large Language Models》论文链接：https://arxiv.org/pdf/2311.08838.pdf研究团队选取了10种不同的大语言模型，使用20种虚假信息叙事来评估它们的性能，这些叙事被分为五个类别：COVID-19、俄乌战争、健康、美国和区域性话题。令人害怕的事情发生了！实验结果证实了大语言模型可以制造出令人信服的虚假新闻。制造假新闻的方法的教程作者…

原文链接：点此阅读原文：大模型变身双面人：虚假新闻制造机VS假新闻鉴别大师！

联系作者

文章来源：夕小瑶科技说

作者微信：xixiaoyaoQAQ

作者简介：更快的AI前沿，更深的行业洞见。聚集25万AI应用开发者、算法工程师和研究人员。一线作者均来自清北、国外顶级AI实验室和互联网大厂，兼备媒体sense与技术深度。