**方案背景：企业安全大模型解决方案**
随着大模型迈入2.0阶段，企业在借助其提升生产力的同时，也面临严峻的安全挑战。数据显示，2024年全球大模型相关漏洞数量激增38.61%，对抗攻击、数据泄露等风险频发。与此同时，《生成式AI服务管理暂行办法》等法规密集落地，要求企业构建覆盖数据、模型、应用的全生命周期安全体系。本方案旨在通过事前检测评估与事中运行防护，为企业大模型的知识库建设、备案上线、运行安全及合规输出提供保障，助力企业在AI 2.0时代实现安全、高效的数字化发展。
---
### **痛点分析**
企业在应用大模型时，主要面临以下核心安全风险：
1. **大模型应用服务与RAG语料泄露风险**
* 在微调、训练及构建知识库过程中，未对敏感信息进行有效识别与清洗，可能导致企业机密（如医疗病历、金融交易记录）及用户隐私外泄。
* 大模型应用本身存在漏洞、弱口令等脆弱性，易遭受病毒入侵、网络攻击，导致服务异常，甚至因数据投毒而改变模型本体能力。
2. **模型输出内容风险**
* 生成内容可能包含违反社会主义核心价值观、事实性错误或偏见等信息，误导用户决策，引发舆情危机（如虚假政策解读），同时无法满足相关法律法规的合规要求。
3. **使用失管及不安全输出风险**
* 对大模型应用的违规使用或缺乏本地数据访问控制，可能导致商业秘密泄露。
* 攻击者可能利用大模型生成的钓鱼信息、恶意代码等，对企业网络进行渗透入侵。
---
### **方案设计**
本方案提供三位一体的安全能力，构建全面防护体系：
* **大模型风险检测与闭环**
通过多维度风险探测引擎及闭环处置机制，保障大模型底层系统、中间件、应用组件及语料数据的安全性。覆盖漏洞检测、敏感信息识别等关键环节，实现AI系统全生命周期的安全检查。
* **大模型安全防护**
为大模型资产提供输入、输出到事后审计的全链路安全防护。涵盖主机安全、语料输入安全、模型资产安全以及内容生成安全，形成完整的防护闭环。
* **AI办公安全助手**
专注于办公场景下的AI应用安全，为AI应用资产盘点、资源访问控制、敏感信息保护等提供专项安全保障，构筑坚实的AI应用安全防线。
---
### **核心应用场景**
| 场景 | 风险描述 | 解决方案 |
| :--- | :--- | :--- |
| **训练数据保护** | 语料库未分级分类，开发人员可能误用含敏感信息的数据集进行微调或训练。 | 在微调、训练及构建知识库前，对数据进行扫描，识别敏感信息，并执行分类分级、清洗或脱敏，防止敏感信息进入模型。 |
| **大模型使用管控** | 大模型使用失管，可能造成数据泄露或非授权访问。 | 根据业务及安全需求，对不同终端访问多个大模型服务进行精细化权限策略控制，并审计所有使用记录，确保企业内部使用安全可控。 |
| **生成内容合规管理** | 模型输出可能包含意识形态偏差、暴力色情等违规内容，需实时检测阻断。 | 在输入阶段对提示词进行安全评估；在输出阶段对生成内容进行实时违规检测与阻断，并支持事后审计追溯。 |
| **输入数据防泄漏** | 用户输入时可能上传身份证、薪资单等敏感数据，导致隐私泄露。 | 在内容输入环节，对文本及附件进行实时敏感信息识别，发现含敏内容时进行自动脱敏或拦截处理，确保大模型“不吃”敏感数据。 |
| **主机安全实时防护** | 承载大模型服务的主机存在系统漏洞、弱配置等风险，易被攻击入侵。 | 为大模型部署环境提供实时的主机安全防护，包括漏洞风险管理、入侵防御、恶意文件查杀等，保障底层基础设施安全。 |
