飞书智能伙伴Aily之数据保护和策略管理

飞书智能伙伴Aily之数据保护和策略管理

智能伙伴Aily手册精选NaN-NaN-NaN
产品功能
Aily「企业管理员」可在「企业管理后台」中的「安全与合规」模块查看系统内置的敏感数据分类分级,可配置全局数据进模型管控策略。
该功能将可支持企业对【个人敏感信息传输到大模型】的场景进行拦截管控,以避免敏感信息传输至大模型,进而引发安全与合规风险。
以用户汽车牌照为例,左图为未开启拦截策略,右图为开启拦截策略。
配置步骤/使用说明
(一)查看系统内置的分类分级
💡
仅「企业管理员」可访问租户管理后台
  1. 通过租户管理后台,点击菜单【安全与合规】-【数据保护】,点击Tab【分类分级】,可查看系统内置的分类分级标签。当前支持中国个人信息标签,包括银行卡号、信用卡号、手机号、护照号码、身份证号、汽车牌照。
250px|700px|reset
  1. 点击具体的类别/标签可查看详情
字段
说明
基本信息
名称
标签或者标签分类的名称
类型
包括标签分类标签,标签分类是一个标签的类别,用于归类标签。比如个人信息(中国)是一个标签分类,银行卡号是一个标签
描述
标签或者标签分类的描述
识别规则
指对于该标签的识别规则,仅标签有识别规则。
系统内置的识别规则暂不支持查看。
关联策略
当前针对该标签配置的策略列表,展示策略名称、策略描述、创建人、策略状态、操作(查看)。点击操作(查看)可展开查看策略详情。
250px|700px|reset
(二)新建策略
  1. 通过租户管理后台,点击菜单【安全与合规】-【数据保护】,点击Tab【策略管理】,可进入策略列表页,展示当前租户下所有的策略。
  1. 点击右上角按钮【新建策略】,可进入新建策略表单页,表单中字段说明如下表。
字段
说明
基本信息
策略名称
策略的名称,不超过50字符,租户下唯一
描述(非必填)
策略的描述,不超过200字符
范围
当前作用范围支持“所有应用
类型
策略的类型,目前支持“数据进模型”,所作用的模型是所有模型
策略规则
匹配方式
当前支持“按分类”,需选择具体的数据标签,可选范围是「分类分级」中的标签。
识别方式当前支持“内容实时识别”,即在内容进入模型前做实时识别,根据内容匹配是否为该标签。
应用场景
当前是“所有场景”,即所有进入大模型的场景(如通过技能触发、上传知识等将数据或提示输入大模型的场景,包括 LLM 模型和 Embedding 模型)
处置动作
  • 拦截:指拦截命中策略的数据
  • 仅记录:指记录命中策略的数据,但先不直接执行拦截动作。首次配置策略时建议选择该选项。
策略新建后自动启用
指该策略点击“创建”后是否直接开启,默认勾选,如果反勾选则表示创建后暂不开启,后续可在策略列表中手动开启。
250px|700px|reset
(三)查看策略列表
  1. 通过租户管理后台,点击菜单【安全与合规】-【数据保护】,点击Tab【策略管理】,可进入策略列表页,展示当前租户下所有的策略。
  1. 表格上方支持搜选,支持按策略名称、匹配方式、策略类型、策略状态和创建人搜选。
  1. 支持策略操作如下:
  1. 查看:点击后可通过侧拉抽屉查看策略详情
  1. 编辑:可对策略进行编辑
  1. 复制:可在侧拉抽屉中自动填充该策略配置,可直接在该复制策略基础上修改后创建一个新策略。
  1. 删除:将删除该策略
  1. 启用策略:勾选一条或多条后,点击右上角按钮“批量启用”,可批量将“已停用”状态的策略批量开启
  1. 停用策略:勾选一条或多条后,点击右上角按钮“批量停用”,可批量将“已启用”状态的策略批量停用
250px|700px|reset
(四)策略开启后对应用终端用户和应用开发/管理者的影响
💡
对于“数据进模型”策略,应用于的是所有进入“大模型”的场景,同时覆盖LLM模型和Embedding模型。因在终端对话、应用开发、应用管理过程都会存在数据进入大模型场景(比如对话、数据总结、知识库等内容向量化等),因此在这些场景中将都发生拦截。
1. 对终端用户
即应用发布后,与AI应用进行交互的用户。
  • 当用户主动发送敏感信息至AI应用时(如用户发送“李白的身份证号是xxx”),若命中了拦截策略,AI应用将在对话框中回复“抱歉我无法回答,内容触发了企业管理的数据保护策略,你可向我提问其他问题。”
  • 当用户对话触发的技能导致敏感信息送入大模型时(技能触发的数据分析、知识查询等,如用户发送“杭杭的车牌号是多少?”),若命中了拦截策略,AI应用将在对话框中回复“抱歉我无法回答,内容触发了企业管理的数据保护策略,你可向我提问其他问题。”
250px|700px|reset
2. 对应用开发者
2.1 应用调试时
同1终端用户
2.2 应用开发时
应用开发者在以下场景时,若命中了策略拦截,行为将被阻断:
  • 知识库中添加数据表、分析表、本地文件时,状态将为“学习失败”;
  • 术语库中添加术语时,术语将无法被正确召回;
  • 问答技能、数据分析中调优时,用例中的步骤将报错提示,同时调优内容将无法变为“已调优”。
250px|700px|reset
image.png
250px|700px|reset
image.png
3. 对应用管理者
3.1 上传知识库
  • 知识库中添加数据表、分析表、本地文件时,状态将为“学习失败”;
3.2 查看对话日志
对于终端用户通过对话触发的策略拦截,在“对话日志”中的该条对话的执行状态将变为“对话失败”,其中对于命中技能的对话,可在会话日志节点中查看到报错的节点。
250px|700px|reset
(五)查看策略命中日志
当配置策略后,如有命中策略,则可通过策略命中日志查看命中详情。
入口:租户管理后台-安全与合规-数据保护-策略命中日志
💡
可查看近30天的日志
主页面搜选项:应用名称、触发用户、策略名称、命中时间区间、策略类型、处置动作
主表格页操作
  1. 刷新
  1. 详情:点击后可查看详情页
详情页字段说明
字段
说明
基本信息
触发用户
触发该策略的用户
  • bot用户对话时展示具体对话的用户
  • 如果是通过开发/管理后台触发的,则展示为“系统”
命中时间
以UTC+8时间展示
应用名称
触发该策略的应用
应用管理员
应用的管理员,可能是多人,如需针对该命中日志做进一步分析,可与应用管理员沟通了解
命中策略
策略名称
命中的策略,点击蓝色策略名可查看策略详情
类型
命中的策略类型,如“数据进模型”
处置动作
对该命中的处置动作,如“仅记录”/“拦截”
命中详情
命中场景
目前有两种场景,如下:
  • 用户对话:终端用户通过bot进行对话时触发的
  • 开发/运维后台:在开发后台或运维后台操作时触发的
命中操作
对于不同的命中场景,展示命中操作的内容可能不同。
  1. 如果是“用户对话”:
  • 调用技能-具体的技能名称
  • 其他操作(如模型回复等非调用技能操作)
  1. 如果是“开发/运维后台”,展示具体的操作位置,枚举如下:
  • 知识库数据导入-添加本地文件
  • 知识库数据导入-添加数据表
  • 知识库数据导入-添加分析表
  • 用例数据导入
  • 术语库数据导入
  • 网页内容导入
  • 其他操作:非上述覆盖场景
命中标签
具体命中的标签,如“手机号”等
命中内容
  1. 如果是“用户对话”:为保护用户隐私,用户输入不支持原文展示;
  1. 如果是“开发/运维后台”:将会直接展示具体命中内容
下图为策略命中日志主页面
250px|700px|reset
下面左图为命中场景「用户对话」的示意,右图为命中场景是「开发/运维后台」的示意。
250px|700px|reset
image.png
250px|700px|reset
image.png
高级用法/注意事项(可选)
描述当前功能的高级用法。如果典型案例或者其他文档里有涉及到高级用法,添加超链接,链接到其他文档。
常见问题(可选)
Q1 为什么敏感信息未触发拦截?
A:目前有两种常见的场景可能引发该误解
  • 飞书文档中包含了敏感信息时,在知识库中上传该飞书文档,不会学习失败。-->这是因为对于飞书文档我们并未在Aily知识库场景进行向量化,所以不会在开发时拦截,但若终端用户通过知识问答技能查询飞书文档时,因此时会引发向量化,所以在终端问答时仍然会被拦截。
  • 数据查询技能,用户直接对话如果走的SQL查询,查询结果会直接以表格形式展示,而不会拦截,这是因为SQL查询结果目前不会过LLM。但若是数据洞察,会将数据送入模型,此时会被拦截。
如果是非上述场景,但仍未触发拦截,请联系@史雅琳 跟进查看。
Q2 并不是敏感信息,但触发了拦截策略?
A:如果你遇到了上述场景,请联系@史雅琳 跟进查看,以帮助我们更好迭代我们的识别能力。
Q3 策略开启后,多久开始会生效?
A:策略新建或策略状态由已停用变为已启用后,大约30秒后会开始生效。
Q4 图片理解场景会生效吗?
A:图片理解多模态场景暂不支持
先进生产力和业务协同平台
联系我们立即试用

先进团队,先用飞书

欢迎联系我们,飞书效能顾问将为您提供全力支持
分享先进工作方式
输送行业最佳实践
全面协助组织提效
联系我们立即试用