大模型时代，企业安全建设如何升级？安全人员饭碗不保了吗？

AIGC动态欢迎阅读

原标题：大模型时代，企业安全建设如何升级？安全人员饭碗不保了吗？
关键字：模型,领域,数据,报告,技术
文章来源：AI前线
内容字数：0字

内容摘要：

编辑 | 蔡芳芳策划 | 李忠良
如今 AI 大模型可以处理大量的安全数据，通过模式识别和数据挖掘技术，发现潜在的威胁，提供实时威胁情报分析，帮助安全团队快速响应。然而，大模型也带来了新的风险和挑战。例如，生成式人工智能大模型的数据训练和部署应用可能产生有害内容、泄露敏感数据、生成错误信息、滥用实施违法活动等风险。
大模型时代，企业安全建设应该如何做？企业应如何建立完善的合规框架和监管机制？日前 InfoQ《极客有约》X QCon 直播栏目特别邀请了百度杰出架构师 & 安全技术委员会主席包沉浮与雾帜智能联合创始人 &CTO 傅奎，在 QCon 全球软件开发大会 2024 上海站即将召开之际，针对上述问题展开讨论。
部分精彩观点如下：
机器负责推荐决策，人类负责最终决策。
要对大模型本身的安全性怀有敬畏之心。
只要技术存在，安全问题就会一直存在。
程序员真的把自己干得挺狠的。
短期内，人类在安全领域的作用仍然是不可或缺的。在 10 月 18-19 日将于上海举办的 QCon 全球软件开发大会上，我们特别设置了【探索安全边界：出海合规与大模型实践】专题，一方面，交流企业出海过程中的合规

原文链接：大模型时代，企业安全建设如何升级？安全人员饭碗不保了吗？