公司用AI，数据和权限的边界怎么定

公司开始用AI以后，管理上最常见的两种反应都不太好。

一种是完全放开，员工各自注册账号，把代码、合同、客户资料和会议记录复制进去。

另一种是发一份通知：“涉及公司信息禁止使用AI。”

前一种风险太大，后一种几乎等于让大家继续偷偷用。

真正需要的不是一句口号，而是一张员工能看懂、技术能执行、管理者愿意负责的边界表。

先把数据分成红黄绿

绿色：可以进入批准的通用工具

• 已公开官网内容；
• 已发布产品手册；
• 公开代码和开源资料；
• 公司明确允许传播的模板；
• 已充分脱敏的培训样例。

绿色不等于没有版权。转载、图片、客户案例仍然要确认授权。

黄色：只能进入企业账号或受控环境

• 内部制度和普通项目文档；
• 未公开源代码；
• 脱敏后的客户记录；
• 内部会议纪要；
• 运营、销售和普通业务数据；
• 尚未发布但风险可控的产品资料。

黄色数据要明确可使用的企业账号、API或私有部署环境，并控制人员、日志和保存时间。

红色：默认不能直接提交给模型

• 密码、Token、私钥和生产连接串；
• 未脱敏个人信息；
• 付款账号和高敏感财务数据；
• 核心商业机密；
• 高敏感客户数据；
• 未公开重大经营信息；
• 受法律、合同或保密协议严格限制的材料。

红色数据不是换成本地模型就自动安全。

要重新设计流程：先脱敏、只传必要字段、在受保护边界内处理，或者根本不让AI参与。

再做一张批准工具清单

每个工具至少记录：

使用Dify或FastGPT自托管时，也要记录模型API最终把数据发到哪里。n8n和Power Automate能连接很多系统，权限反而更需要限制。

能连，不代表应该全连。

给Agent最小权限

第一阶段尽量采用只读或草稿权限：

• 读取指定知识库，不读取整个共享盘；
• 读取当前Issue，不扫描无关私有仓库；
• 创建待确认任务，不直接改变项目承诺；
• 生成付款异常提示，不执行付款；
• 生成生产变更计划，不直接运行；
• 查询客户资料的必要字段，不导出完整客户库。

给每个Agent或自动化流程单独服务账号，不和管理员共用账号。API Token只开放必要接口和范围，并设置有效期。

如果一个流程只需要创建工单，就不要给它删除工单、修改客户和管理用户的权限。

高影响动作必须有人批准

这些动作不能因为模型“置信度高”就自动完成：

• 生产发布和基础设施删除；
• 数据库破坏性变更；
• 付款、报销、税务和会计判断；
• 合同、报价、交付承诺和对外声明；
• 录用、辞退、绩效和纪律决定；
• 退款、投诉、法律通知和安全事故；
• PLC、设备和其他高影响控制；
• 客户及业务数据的批量删除。

人工审批界面应该显示原始输入、AI建议、使用资料、风险和将要执行的动作，而不只是一个“同意”按钮。

日志要能回答发生了什么

至少记录：

• 谁或哪个服务账号发起；
• 使用了哪个工作流、模型和规则版本；
• 访问了哪些数据来源；
• 产生了什么结果；
• 人工修改和审批；
• 写入了哪个系统；
• 失败、重试和最终状态。

日志本身也可能含敏感数据。

不要无期限保存完整提示和客户文本。按排障、审计和业务需要确定字段、访问权限和保留时间。

员工真正需要的是几条清楚规则

公司制度可以很完整，但员工日常更需要快速判断：

公开资料：使用批准工具。

内部资料：只用企业账号或批准环境，先确认权限。

个人信息、密钥、付款和核心机密：不直接提交。

代码和客户数据：按项目批准范围使用。

对外承诺、付款、招聘和生产操作：必须人工批准。

不确定：先问数据或业务负责人，不要自己猜。

再配几个真实工作例子，比只有一份法律语言很重的制度更容易执行。

一个低门槛的治理落地顺序

第一周，列出现有AI工具和员工实际使用情况，不急着处罚。

第二周，完成红黄绿数据分类和第一版批准工具清单。

第三周，给正在试点的流程建立专用账号、最小权限、日志和人工审批。

第四周，做一次演练：撤销一个离职账号、轮换一枚API密钥、停止一条工作流、从备份或草稿恢复。

能停下来、查得到、收得回，治理才不只是纸面制度。

哪些信号说明边界还不够清楚

• 员工不知道个人账号和企业账号有什么区别；
• 同一份客户资料被复制到多个聊天工具；
• Agent使用管理员Token；
• 工作流失败后只能重新跑，不知道是否已经写入；
• 知识库资料没有负责人和权限；
• 模型或供应商变更后没人重新检查政策；
• 人工审批只看AI总结，不看原始依据；
• 离职员工账号和API密钥没有及时撤销。

公司不需要等一套完美制度才开始使用AI。

但每增加一条自动化能力，都要同时增加对应的权限、日志、人工责任和停用办法。

边界不是为了让AI少做事。

它是为了让公司知道，AI做到了哪里，最后谁愿意为结果负责。