企业接入DeepSeek等大模型时应关注的五大关键风控问题

DeepSeek的热潮，从春节一直持续到现在，一浪接一浪。最初，科技媒体和自媒体对于DeepSeek展开了热烈的讨论，随后众多企业纷纷宣布接入DeepSeek，甚至包括国民级应用微信、文心一言和腾讯元宝在内的竞争对手，也都宣布在其自家的大模型软件中接入DeepSeek。AI的发展势不可挡，AI革命正在如火如荼地进行，许多企业都希望借助大模型产品来提升内部效率或改善产品体验。企业使用大模型与个人用户存在显著差异，尤其是在商业机密和业务安全方面需要更加谨慎。本文将深入探讨企业在接入大模型时需要注意的风险控制问题。

在研究大模型的风控问题之前，首先需要明确企业接入大模型的方式有哪些。我曾在另一篇文章中详细介绍了企业接入大模型的方法，主要包括以下五种：
- 个人直接使用平台功能
- 通过智能体平台搭建Agent
- API调用
- 私有化本地部署
- 通过云服务商间接部署
每种接入方式都有其独特的优缺点，而这些不同的接入方式也会带来不同的风险点。例如，个人直接使用平台功能或通过智能体平台搭建Agent时，由于这些平台是公共性质的，因此数据保密等级较低，不太适合传递企业的敏感信息。而在API调用、私有化本地部署及通过云服务商间接部署的情况下，由于涉及到了对大模型的调整和训练，以及模型输出内容的公开，所以更容易引发一系列风险，如训练数据合规性、权限控制、输出内容审查等问题。

如何进行AI大模型的企业风控？根据AI的使用者与AI大模型之间产生交互的时机，我们将企业接入大模型的风险分为三个阶段：传入模型时风控、模型处理中风控、模型输出时风控。
- **传入模型时风控**：这是信息进入大模型的第一个阶段，也是风险最大的阶段之一。最大的风险在于业务敏感信息泄露和数据合规问题。风险点一为数据安全风险（保密数据、隐私数据）。在实际工作中，可能会因为业务需要而将实际业务的真实数据或重要商业机密发送给AI，在这个过程中，容易将公司的核心机密传播出去。例如，AI能力的提供方可能会查看用户与AI之间的对话内容，或者AI在接收到信息后将其内化于自己的数据库，在与其他用户互动时泄露信息；在伪本地化部署方案中，如果接口加密不完善，攻击者可以通过逆向工程窃取传输中的业务数据。为了解决这些问题，关键在于重视数据安全，采取以下两个措施：1. 在底层表结构上做好权限控制，遵循“最小权限原则”，限制数据的可访问范围和保密等级；2. 加强员工的保密意识，对敏感数据进行脱敏处理。AI在调用用户数据表时，应提前将用户的身份证号和手机号等个人信息进行模糊化处理。
- **模型处理中风控**：这一阶段主要关注的是模型训练过程中的风险，特别是训练数据合规性和模型输出内容审查等方面。
- **模型输出时风控**：这一阶段的重点是确保模型输出的内容符合预期，并且没有包含任何不当的信息或违反法律法规的内容。

---

---

相关标签： 企业接入DeepSeek等大模型时应关注的五大关键风控问题、

上一篇：文科关停潮余波未平化学系是否将成为下一个

下一篇：20载初心不变奇瑞汽车加速驶向港股IPO征程