DeepSeek大模型，揭秘内部运行参数

原标题：DeepSeek大模型，揭秘内部运行参数
文章来源：人工智能学家
内容字数：13662字

DeepSeek越狱及大模型安全风险

本文报道了国外研究人员成功越狱DeepSeek V3大模型，泄露其核心指令（系统提示词）的。该引发了对大模型安全性的担忧，并总结了五种常见的大模型攻击方法。

1. DeepSeek越狱及系统提示词泄露

1. 安全研究人员通过巧妙的提示工程技术绕过了DeepSeek的内部安全机制，成功获取了其完整的系统提示词。该系统提示词是一组以自然语言编写的指令，定义了模型的行为模式和限制。

2. DeepSeek通常会拒绝直接透露其系统提示词，但研究人员通过精心设计的提示，引导模型产生特定倾向的响应，从而绕过其部分内部控制机制，最终逐字提取了完整提示词。

3. 该系统提示词强调了DeepSeek作为一个“乐于助人、尊重用户、诚实可靠”的助手，应遵循道德准则，避免分享有害或误导性内容，并优先考虑用户安全。提示词还详细规定了模型在处理不同类型任务（如创意写作、技术问题、敏感话题等）时的行为规范。

4. 为了对比DeepSeek与其他主流模型的特性，研究人员将DeepSeek的系统提示词输入OpenAI的GPT-4进行分析，结果显示GPT-4的限制较少，更具创造性。

5. DeepSeek的系统提示词还定义了11类具体任务主题，以确保更清晰准确、高一致性的响应用户问题。

2. 五种常见的大模型攻击方法

大模型越狱旨在绕过内置限制，提取敏感数据、操纵系统行为或生成超出预期限制的响应。Wallarm研究团队总结了五种最常用的攻击方法：

1. **提示注入攻击:** 这是最简单且最广泛使用的攻击方式，攻击者通过精心设计的输入内容，使模型忽略其系统级限制。其变体包括直接请求系统提示、角色扮演操纵和递归提问等。

2. **令牌走私与编码:** 利用模型的令牌化系统或响应结构中的弱点来提取隐藏数据。例如，通过Base64/Hex编码滥用或逐字泄露等方法。

3. **少量样本情境中毒:** 使用策略性的提示来操纵模型的响应行为，例如逆向提示工程和对抗性提示排序。

4. **偏见利用与说服:** 利用AI响应中的固有偏见来提取受限信息，例如利用道德理由或文化/语言偏见。

5. **多代理协作攻击:** 使用两个或多个AI模型进行交叉验证并提取信息，例如AI回音室和模型比较泄露。

3. 安全隐患与未来展望

DeepSeek越狱及五种攻击方法的总结，凸显了大模型安全领域面临的挑战。虽然DeepSeek已修复相关漏洞，但类似的手法可能对其他流行的大模型产生影响，需要业界共同努力提升大模型的安全性和可靠性。

研究人员选择不公开具体的技术细节，旨在避免这些技术被恶意利用。未来需要加强对大模型安全性的研究，开发更有效的防御机制，以应对不断演变的攻击技术。

联系作者

文章来源：人工智能学家
作者微信：
作者简介：致力成为权威的人工智能科技媒体和前沿科技研究机构