Aily「企业管理员」可在「企业管理后台」中的「安全与合规」模块查看系统内置的敏感数据分类分级,可配置全局数据进模型管控策略。
该功能将可支持企业对【个人敏感信息传输到大模型】的场景进行拦截管控,以避免敏感信息传输至大模型,进而引发安全与合规风险。
以用户汽车牌照为例,左图为未开启拦截策略,右图为开启拦截策略。
配置步骤/使用说明
(一)查看系统内置的分类分级
仅「企业管理员」可访问租户管理后台
- 通过租户管理后台,点击菜单【安全与合规】-【数据保护】,点击Tab【分类分级】,可查看系统内置的分类分级标签。当前支持中国个人信息标签,包括银行卡号、信用卡号、手机号、护照号码、身份证号、汽车牌照。
250px|700px|reset
- 点击具体的类别/标签可查看详情
250px|700px|reset
(二)新建策略
- 通过租户管理后台,点击菜单【安全与合规】-【数据保护】,点击Tab【策略管理】,可进入策略列表页,展示当前租户下所有的策略。
- 点击右上角按钮【新建策略】,可进入新建策略表单页,表单中字段说明如下表。
250px|700px|reset
(三)查看策略列表
- 通过租户管理后台,点击菜单【安全与合规】-【数据保护】,点击Tab【策略管理】,可进入策略列表页,展示当前租户下所有的策略。
- 表格上方支持搜选,支持按策略名称、匹配方式、策略类型、策略状态和创建人搜选。
- 支持策略操作如下:
- 查看:点击后可通过侧拉抽屉查看策略详情
- 编辑:可对策略进行编辑
- 复制:可在侧拉抽屉中自动填充该策略配置,可直接在该复制策略基础上修改后创建一个新策略。
- 删除:将删除该策略
- 启用策略:勾选一条或多条后,点击右上角按钮“批量启用”,可批量将“已停用”状态的策略批量开启
- 停用策略:勾选一条或多条后,点击右上角按钮“批量停用”,可批量将“已启用”状态的策略批量停用
250px|700px|reset
(四)策略开启后对应用终端用户和应用开发/管理者的影响
对于“数据进模型”策略,应用于的是所有进入“大模型”的场景,同时覆盖LLM模型和Embedding模型。因在终端对话、应用开发、应用管理过程都会存在数据进入大模型场景(比如对话、数据总结、知识库等内容向量化等),因此在这些场景中将都发生拦截。
1. 对终端用户
即应用发布后,与AI应用进行交互的用户。
- 当用户主动发送敏感信息至AI应用时(如用户发送“李白的身份证号是xxx”),若命中了拦截策略,AI应用将在对话框中回复“抱歉我无法回答,内容触发了企业管理的数据保护策略,你可向我提问其他问题。”
- 当用户对话触发的技能导致敏感信息送入大模型时(技能触发的数据分析、知识查询等,如用户发送“杭杭的车牌号是多少?”),若命中了拦截策略,AI应用将在对话框中回复“抱歉我无法回答,内容触发了企业管理的数据保护策略,你可向我提问其他问题。”
250px|700px|reset
2. 对应用开发者
2.1 应用调试时
同1终端用户
2.2 应用开发时
应用开发者在以下场景时,若命中了策略拦截,行为将被阻断:
- 知识库中添加数据表、分析表、本地文件时,状态将为“学习失败”;
- 术语库中添加术语时,术语将无法被正确召回;
- 在问答技能、数据分析中调优时,用例中的步骤将报错提示,同时调优内容将无法变为“已调优”。
3. 对应用管理者
3.1 上传知识库
- 知识库中添加数据表、分析表、本地文件时,状态将为“学习失败”;
3.2 查看对话日志
对于终端用户通过对话触发的策略拦截,在“对话日志”中的该条对话的执行状态将变为“对话失败”,其中对于命中技能的对话,可在会话日志节点中查看到报错的节点。
250px|700px|reset
(五)查看策略命中日志
当配置策略后,如有命中策略,则可通过策略命中日志查看命中详情。
入口:租户管理后台-安全与合规-数据保护-策略命中日志
可查看近30天的日志
主页面搜选项:应用名称、触发用户、策略名称、命中时间区间、策略类型、处置动作
主表格页操作:
- 刷新
- 详情:点击后可查看详情页
详情页字段说明:
下图为策略命中日志主页面
250px|700px|reset
下面左图为命中场景「用户对话」的示意,右图为命中场景是「开发/运维后台」的示意。
高级用法/注意事项(可选)
描述当前功能的高级用法。如果典型案例或者其他文档里有涉及到高级用法,添加超链接,链接到其他文档。
常见问题(可选)
Q1 为什么敏感信息未触发拦截?
A:目前有两种常见的场景可能引发该误解
- 飞书文档中包含了敏感信息时,在知识库中上传该飞书文档,不会学习失败。-->这是因为对于飞书文档我们并未在Aily知识库场景进行向量化,所以不会在开发时拦截,但若终端用户通过知识问答技能查询飞书文档时,因此时会引发向量化,所以在终端问答时仍然会被拦截。
- 数据查询技能,用户直接对话如果走的SQL查询,查询结果会直接以表格形式展示,而不会拦截,这是因为SQL查询结果目前不会过LLM。但若是数据洞察,会将数据送入模型,此时会被拦截。
如果是非上述场景,但仍未触发拦截,请联系@史雅琳 跟进查看。
Q2 并不是敏感信息,但触发了拦截策略?
A:如果你遇到了上述场景,请联系@史雅琳 跟进查看,以帮助我们更好迭代我们的识别能力。
Q3 策略开启后,多久开始会生效?
A:策略新建或策略状态由已停用变为已启用后,大约30秒后会开始生效。
Q4 图片理解场景会生效吗?
A:图片理解多模态场景暂不支持