返回文章列表

公司知识 · 实作指南

在资料送到模型前落实权限

权限应在检索阶段执行,不能只靠模型拒绝回答。

权限闸门先过滤文件,再让证据进入模型。
AAhouse 原创 AI 辅助主题插画

授权是应用程式的责任

员工若没有权限开启文件,助手便不应代表该员工取得其内容。Microsoft 文件介绍文件层级存取控制与检索筛选。实作原则是先确认身份及允许范围,再组合模型上下文。要求模型不要透露已收到的机密内容,远不如根本不为未授权请求取回内容。权限也应涵盖摘录、标题及来源提示,不能只保护原始附件。

建立必须被拒绝的测试

假设一家顾问公司,建立普通员工、专案经理与财务测试帐户,分别用直接问法和改写问法提出同一问题。确认未授权文件、摘要与引用都不出现,再测试刚被移除专案权限的帐户。管理员能成功回答,并不能说明普通员工的边界受到保护。测试应保存允许和拒绝的预期结果,避免日後更新索引时无意中放宽可见内容。

流程一览

输入整理审核执行
示意流程图,请按团队实际情况调整。

检查每条取资料路径

相同授权规则应涵盖搜寻、预览、汇出、背景任务及支援工具。聊天介面有保护,仍可能透过不受限制的来源网址外泄。确认权限变更如何传到索引与快取;无法确认最新权限时,要有明确的停止或人工处理方式。也不能假定供应商预览功能与正式服务有相同支援范围,应核对所用版本及实际资料连接方式。

让权限维护有实际负责人

指定群组成员、文件分类与权限移除事件的负责人。交付时,与客户一起展示一个允许查询及一个拒绝查询,并让测试能在不使用真实敏感纪录下重复执行。权限感知知识库不是助手完成後才附加的选项,而是「正确运作」的定义之一。若来源本身权限混乱,先处理分类与责任,再扩大 AI 存取范围。

一次权限撤回演练

利用合成专案文件,把测试员工移出群组,量度每条检索路径何时反映改动。除了新搜寻,也测试之前开过的对话。记录延迟与对应处理,不要没有证据就承诺即时撤权。如果存在无法控制的传播时间,应限制使用范围或采用更直接的权限检查,并把例外交给资料负责人确认。

来源与延伸阅读

编辑原则

本系列以 AI 辅助原创撰写,并对照连结的公开来源。实作建议与假设情境属编辑分析,并非客户实绩。来源发布日期及产品细节可能与本系列整理日期不同。

想把想法变成可验证的试点?

聊聊你的工作流程