百度冯景辉：从数据清洗到安全围栏，深度解析大模型原生安全构建

AIGC动态欢迎阅读

原标题：百度冯景辉：从数据清洗到安全围栏，深度解析大模型原生安全构建
关键字：模型,内容,小米,数据,字节跳动
文章来源：AI前线
内容字数：0字

内容摘要：

采访嘉宾 | 冯景辉
策划 | 李忠良
随着大模型的逐步发展，内容安全问题受到了前所未有的关注。为此，InfoQ 特别邀请百度安全副总经理冯景辉在 8 月 18-19 日的 AICon 全球人工智能大会（上海站）上，分享《百度大模型原生安全构建之路》的主题演讲。本文是对冯景辉的会前采访对谈。
在对谈中，冯景辉提到，大模型的智能性、不确定性和不可解释性为内容安全带来了重大挑战，这迫使开发者在模型设计阶段就必须深入考虑安全性问题。百度在这一领域进行了多项创新实践，包括数据清洗、安全对齐、内生安全技术以及安全围栏等措施，形成了一套完整的全流程安全解决方案。
特别值得一提的是，百度采用了四步法进行数据清洗，并引入代答模型，以提高内容审核的自动化和智能化水平。冯景辉还强调了构建原生安全的重要性，指出通过有监督微调和人类反馈强化学习等技术，可以显著提升模型的安全性和可靠性。大模型安全的重要性与挑战InfoQ：为什么要做大模型安全方面的内容，可以看到许多企业现在专心在搞应用，为安全买单的人都是哪些类型的？
冯景辉：过去若干年技术的发展，很少有像今天大模型一样，从技术蓬勃发展的第一天开始，人们就如此重

原文链接：百度冯景辉：从数据清洗到安全围栏，深度解析大模型原生安全构建