对应视频WorkBuddy应用师认证教程05安全与合规01使用决策-CSDN直播WorkBuddy应用师认证教程05安全与合规02权限边界-CSDN直播WorkBuddy应用师认证教程05安全与合规03输出验证-CSDN直播WorkBuddy应用师认证教程05安全与合规04防线配置-CSDN直播第 五 章 · 安 全 与 合 规建立数据安全、账号安全与高风险边界三道防线让每一次输入、上传、授权和输出都更安全、更可控。4节约25分钟0个 FAQAI 越强大边界越重要。本章不讲空泛的合规条款只讲真问题什么场景该用 AI、给他多大权限、回答能信几分、五个入口怎么守住。WorkBuddy 平台安全机制 — 平台的保护不等于您的免责在了解您需要注意什么之前先认识 WorkBuddy 从架构层面已部署的保护措施。这些机制是第一条防线但任何技术防线都无法覆盖所有人为决策场景——安全是平台与用户共同分担的责任。执行计划预览弹窗安全机制具体做了什么本地执行文件处理在本地完成Excel、PDF、合同等原始文件不离开电脑。需调用云端大模型时仅传输必要指令和最小化上下文沙箱隔离所有 AI 操作在独立隔离环境运行文件、进程、网络三维隔离。即使 AI 被诱导执行高危指令也无法访问沙箱外的系统资源执行前确认每个任务启动前弹出执行计划预览明确列出将读取哪些文件夹用户手动确认后才执行自动拦截系统级敏感目录自动禁止访问高危命令rm -rf、format 等被云端安全中台直接拦截危险操作确认删除文件等操作需二次确认不是一句话就删了Skill 审核官方 Skills 经过安全审核第三方 Skill 安装前自动扫描覆盖供应链投毒和注入风险微信直连微信仅作为消息通道不获取私人数据指令在后端执行凭据保护API Key 仅加载到内存不落盘、不上报全链路审计操作全程可追溯满足等保合规要求提 示上述机制从技术层面拦截了大部分风险但以下三类关键决策仍由使用者自行把控——授权哪些文件夹、输入什么数据、是否核实输出来源。本章后续四节即围绕这些使用者可控的安全边界展开。5.1使用决策什么该用、什么不该用 学 习 目 标读完这节你能回答数据在 WorkBuddy 中分别流向了哪里哪些离开了你的电脑用 80/15/5 分级法怎么快速判断一份数据能直接给、需要脱敏还是绝对不能输入六个常见工作场景中哪些事该让 AI 做、哪些不该输入前花两秒扫一眼要扫什么一、数据流向全景您的信息分别去了哪里WorkBuddy 不是一个 AI 在运转而是多个组件协作。不同的数据去了不同的地方了解这个流向是安全使用的前提。数据类型流向风险等级关键认知对话内容所选 LLM 服务商混元/DeepSeek/GLM/Kimi 等中对话文本离开电脑传输到模型服务商上传文件本地沙箱处理默认不离电脑低文件在本地读取和处理上传文件切换云端沙箱后腾讯云服务器中文件上传云端处理任务结束后清除授权文件夹本地文件系统低AI 可读写授权目录内的文件远程指令经 IM 平台微信/企微等转发中指令文本经过 IM 服务器API Key仅存于 WorkBuddy 本地配置 高一旦截图或写进文档即扩散连接器授权第三方服务QQ邮箱/腾讯文档等中授权后 AI 可直接操作您的外部账户提 示本地沙箱与云端沙箱的切换 桌面端默认使用本地沙箱文件不离开电脑 低风险。切换至云端沙箱由您主动选择执行模式触发非系统自动切换 触发场景 沙箱模式 风险 桌面端日常使用 本地沙箱默认 低 移动端 App / 微信小程序 → 选择「云端工作」 云端沙箱 中 移动端 App / 微信小程序 → 选择「本机模式」 本地沙箱远程操控 低 处理敏感文件时优先使用桌面端或移动端「本机模式」避免文件上传云端。可视化流向您输入一句话 │ ├──→ 对话内容 ──→ LLM 服务商混元/DeepSeek/GLM 等 │ 您选哪个模型对话文本就传给哪家 │ 风险如果对话里含敏感信息它离开了您的电脑 │ ├──→ 上传文件 ──→ 本地沙箱默认不离开电脑 │ 文件内容在本地被读取、处理 │ 注意主动切换云端沙箱模式后文件才会上传云端 │ ├──→ 授权文件夹 ──→ 本地文件系统 │ AI 可以读、写授权目录里的文件 │ 风险授权范围太大 → AI 可能误读到敏感文件 │ ├──→ 远程指令 ──→ IM 服务器微信/企微/飞书/钉钉 │ 指令文本经过 IM 平台转发 │ 风险IM 平台可能留存您的指令记录 │ ├──→ API Key ──→ 仅存在 WorkBuddy 本地配置中 │ 但截图/复制/写进文档 → 扩散 │ 风险泄露后别人可冒用您的密钥调用模型 │ └──→ 连接器 ──→ 第三方服务QQ邮箱/腾讯文档等 OAuth 授权后 AI 可直接操作您的外部账户 风险授权范围过大 → AI 可能误发邮件、误删文档安全这事怕的不是 AI 偷数据——怕的是你不知道数据去了哪儿。上面的流向表已经把每种数据的去处列清了接下来逐项看怎么守住。谁在看您的数据 — 逐层分析数据去向谁能看到风险等级真实场景LLM 服务商模型提供商混元/DeepSeek/GLM/Kimi 等中您在对话里粘贴了客户手机号 → 这条信息传输到了模型提供商的服务器IM 平台微信/企微/飞书/钉钉服务器中您远程发指令「查客户张三的合同金额」→ 这条消息经过 IM 服务器您的电脑本地您自己及能访问您电脑的人低文件在本地沙箱处理 → 不离开电脑 → 但共享电脑或未锁屏时有风险云端沙箱腾讯云服务器中切换云端沙箱模式 → 文件上传到腾讯云处理被盗的 API Key拿到您 Key 的任何陌生人 高Key 截图发群里 → 任何人拿到都能冒用您的额度、调用模型连接器授权被授权的第三方服务中连接 QQ邮箱并授权「读取所有邮件」→ AI 能扫描全部收件箱说到底风险出在权限上不是出在 AI 身上。跨境数据注意手动配置海外模型通过自定义模型接入非中国境内服务商时对话内容将传输至该服务商所在法域的服务器构成数据出境。根据《个人信息保护法》第38条等规定向境外提供个人信息需通过安全评估、标准合同或认证等合规路径。建议跨国企业使用前确认所选模型的服务商所在地并结合企业法务评估数据出境合规性优先选用境内部署的模型以避免此类风险。二、三个最常见的高风险操作高危操作数据流向泄露给了谁后果在对话中粘贴 API Key 或密码您的输入 → LLM 服务商服务器模型提供商的日志系统Key 可能被记录、缓存、出现在训练数据中把远程控制二维码截图发群二维码 → 群聊所有人 → 扫码者任何扫码的人陌生人可以直接远程操控您的电脑授权整个桌面或下载目录桌上所有文件 → AI 可读写无外部泄露但误操作风险极大AI 可能误读合同、误删文件、把隐私写进生成的报告高风险操作就两类把不该出去的数据送出去了或者把不该进来的人放进来了。三、数据分级80 / 15 / 5 法则实践建议不是所有数据都要小心翼翼。实际工作中数据分三类您的日常数据 ████████████████ 80% — 直接给不用管 ███ 15% — 简单处理就行 █ 5% — 绝对不能给占比典型场景怎么做示例80% 直接用写会议通知、改文案语气、生成周报、分析销售趋势直接丢给 AI纯模板 无可识别个人信息 零风险15% 简单处理分析客户反馈、处理含人名的报表、整理面试简历花 10 秒脱敏姓名替换为「客户A」、删除手机号、只传摘要去掉可识别到具体人的信息即可5% 绝对不碰API Key、Token、密码、未公开合同、生产配置、身份证号拒绝输入不要觉得「就这一次没事」Key 可能被日志记录、合同可能被缓存为什么要脱敏脱敏的本质不是您信不过 AI是您管不了数据离开您之后的去向。如果含客户手机号的对话文本传到 LLM 服务商可能违反《个人信息保护法》。脱敏底线判断问自己——「这段数据如果被第三个人看到了谁会有麻烦」答不上来 → 安全。答得上来 → 脱敏。相关法规速查以下为与日常 AI 使用直接相关的核心条款非法律意见仅供风险自检参考。法规核心要求与 AI 使用的关联《个人信息保护法》未经本人同意不得向他人提供个人信息第23条处理个人信息应遵循最小必要原则第6条将含客户姓名、手机号、身份证号的文本输入外部 LLM → 构成向模型服务商提供个人信息需确保已获授权或已完成脱敏《数据安全法》重要数据的处理者应定期开展风险评估并向主管部门报告第30条将内部业务数据库、客户清单等可能构成重要数据的信息接入 AI → 需评估是否触发风险评估义务《生成式人工智能服务管理暂行办法》提供和使用生成式 AI 应遵守法律法规尊重社会公德和伦理道德应提升生成内容的准确性和可靠性第4条直接使用 AI 生成内容对外发布而未核实事实 → 可能涉及虚假信息传播责任提 示建议结合所在企业的法务或合规部门针对具体业务场景确认适用条款。四、六个场景判断AI 适合做什么、不该做什么场景AI 能做AI 不能做原因内容创作生成初稿、改写语气、整理结构直接作为正式发布内容需核对事实和口径数据分析汇总统计、趋势发现、图表生成作为财务/审计最终结论数据口径可能偏、来源可能缺失决策支持列出选项、对比优劣、提供参考代替您做出最终决策责任不会转移法律合同辅助起草、格式整理作为正式法律文件必须专业人员审核客户沟通生成回复草稿直接对外发送需人工确认授权口径人事工作整理简历格式、生成面试问题作为筛选决策依据涉及公平性和隐私判断标准「这个输出如果出错后果由谁承担」由您承担的事AI 只能当参谋。五、输入前两秒判断不需要背清单只需要一个瞬间判断任何东西输入之前扫一眼有没有具体人的信息姓名/手机号/身份证/邮箱/地址→ 有 → 花 10 秒替换或删除有没有 Key、密码、Token→ 有 → 立即停止绝对不输入以上都没有→ 直接发不用多想判断标准不是「安不安全」而是「值不值得」—— 为了一份周报纠结半天脱敏 过度消耗为了一个客户手机号赌「应该没事」 不值得。 本 节 总 结核心要点回顾数据流向不等于数据泄露——了解每种数据去了哪里是安全判断的基础80% 的数据直接给15% 简单处理后再给5% 绝不输入——别把三者搞反六个场景各有边界内容创作可放心用法律人事财务须有人把关输入前两秒判断个人信息先脱敏密钥密码绝不碰实战挑战5 分钟列出你工作中经常需要 AI 处理的三类材料按 80/15/5 分个类。哪一类你以前没注意过脱敏下次输入前花两秒扫一眼看能扫出什么。5.2权限边界给 AI 多大的操作权限 学 习 目 标读完这节你能回答三种工作模式的安全差异是什么怎么根据任务敏感度选模式拿不准的时候怎么退一档怎么按最小授权原则管理文件访问范围一、三种模式的安全刻度从安全视角看三种模式的风险等级与平台保护机制如下模式风险等级主要风险平台已做的保护Ask低输出内容本身可能不准确—Plan中确认环节容易被习惯性跳过执行前弹窗预览Craft 高可能误删、误改、误覆盖删除二次确认 系统目录拦截 高危命令云端阻断提 示模式是效率开关也是安全开关。越往右风险越高但平台底层保护始终生效——即使是 Craft 模式也非裸奔。二、什么时候该降级任务特征建议模式为什么任务目标明确流程熟悉Craft风险可控直接执行效率最高涉及多文件批量操作怕跑偏Plan先看方案确认了再动手只问问题不需要操作Ask零风险AI 碰不到任何文件不确定该不该让 AI 动手先 Ask 问清楚 → 再决定不要在犹豫时直接给最高权限关键场景处理重要文件前先备份 → 降到 Plan 预览改动 → 确认无误再执行。拿不准的时候退一档。权限这件事够用就行多了反而危险。三、文件授权别给 AI 整把钥匙最常见的危险操作图省事直接把桌面、下载、文档全部授权。做法风险授权整个桌面个人照片、合同扫描件、银行回单全暴露授权下载目录临时文件、压缩包、敏感附件混杂只授权临时目录只放本次必需文件任务结束移除最小授权原则新建一个临时文件夹只放入本次任务必需的文件只授权这个文件夹任务完成后移除授权设置 → 文件授权 → 移除一个真实教训小李让 AI 批量整理文件图省事授权了整个桌面。AI 在执行过程中读到了桌面上一份尚未公开的报价单并在生成的汇总报告中引用了其中的价格数据。虽然文件没离开电脑但这份含敏感数据的报告如果被不小心转发后果不堪设想。给 AI 的权限刚好够完成这件事就行。多给一份就多一份风险。 本 节 总 结核心要点回顾三种模式安全风险逐级上升Ask 最安全 → Plan 可控制 → Craft 要小心拿不准就退一档犹豫时不直接给最高权限文件授权只给临时目录不给整盘或大范围文件夹实战挑战5 分钟下次做批量文件操作前先切到 Plan 模式预览一遍方案再确认。同时检查一下你当前授权的文件夹范围——是不是给大了5.3输出验证AI 的回答能信多少 学 习 目 标读完这节你能回答为什么说 AI 的输出永远是初稿三步核实法怎么用才能变成肌肉记忆可信、需验证、不可直接信三类输出怎么区分一、底层心态把 AI 输出当初稿来看把 AI 的输出当初稿来看——尤其是涉及数据、结论、专业判断的内容。格式整理类输出基本可以直接用但只要涉及事实、数字或专业建议多看两眼总没错。AI 输出类型常见问题真实风险数字和结论编造数据、口径不清「市场规模 500 亿」— 来源可能是训练数据里的虚假信息引用和来源编造出处、链接打不开「据某研究报告」— 报告可能根本不存在专业解释概念混淆、遗漏前提「法律上您应该…」— 可能是错误的法条引用方案建议忽略真实约束「预算 10 万就能做」— 不了解您公司的实际情况AI 很少主动认不确定——它更习惯给一个看起来挺对的答案至于对不对得你自己判断。二、三步核实法让审核变成肌肉记忆收到 AI 输出后的标准动作 ① 核数据 → 数字有没有来源日期对不对人名准不准 → 找不到原始来源的数据 → 标注「待验证」 ② 核逻辑 → 结论有没有被前面的分析支撑有没有跳跃推理 → 有逻辑断点 → 让 AI 补充推理链路或自己去验证 ③ 核场景 → 这个输出适合当前公司、客户、流程吗 → 不匹配 → 人工调整到适合当前场景口诀三步不过不发出去。AI 负责加速你负责品控——两件事不能混着来。三、信任分级什么能直接信什么必须验证信任等级内容类型处理方式可信语法润色、格式整理、语气改写可直接使用需验证数据引用、趋势分析、方案建议核实来源和逻辑后使用 不可直接信法律解读、财务结论、医疗建议、对客户承诺必须专业人员审核一个典型案例市场部让 AI 写竞品分析AI 输出「A 公司市场份额 35%同比下降 5 个百分点」。数字看起来很专业但经核实发现这个数据来自三年前的一篇自媒体文章。真实情况是 A 公司去年已被收购市占结构完全变了。如果直接引用进正式报告不仅误导决策还可能被客户质疑专业性。越像专业结论的输出越得多看两眼。四、AI 输出的版权提示AI 生成内容的版权归属是目前法律实践中的活跃议题尚无统一立法明确界定。以下为基于现有司法判例的基本立场非法律意见情形版权风险建议纯 AI 生成未做修改当前司法实践倾向于认为纯粹由 AI 生成、无人类创造性贡献的内容不构成著作权法意义上的作品无法获得版权保护不直接以 AI 原始输出作为最终交付物主张版权AI 辅助创作人为实质性修改若人类在内容选择、结构调整、观点提炼等方面进行了具有独创性的智力贡献整体成果可能获得版权保护保留修改过程的版本记录以证明人类的创造性参与AI 生成内容用于对外发布如无法主张版权第三方可能自由使用相同或相似内容影响企业竞争优势涉及品牌、营销、对外发布的核心内容人工深度改写后再使用提 示建议企业在使用 AI 生成内容作为对外发布材料或商业产品时结合法务评估版权保护策略内部使用如周报、纪要的版权风险相对较低。五、联网搜索结果的额外验证联网搜索增加了「实时信息」的能力也增加了「假信息」的风险风险表现对策链接幻觉AI 编造了看似合理但打不开的链接这种现象称为幻觉每条链接必须点击验证来源偏差引用了自媒体或标题党文章优先看政府网站、权威媒体、官方公告数据冲突不同来源对同一数据有不同版本多来源交叉验证不一致的标注「存疑」联网搜索拿到的不等于事实——搜完必验验完再用。 本 节 总 结核心要点回顾AI 输出的永远是初稿——不是成品三步核实法核数据 → 核逻辑 → 核场景三步不过不发出去越像「专业结论」的输出越不能直接信联网搜索结果同样需要验证链接要点击检查来源要交叉比对实战挑战5 分钟找一份最近的 AI 输出逐项走一遍三步核实数字有没有来源逻辑有没有跳跃结论适合你当前的场景吗至少找出一个需要修正的地方。5.4防线配置五个入口一个不能松 学 习 目 标读完这节你能回答账号、远程控制、API Key、文件授权、Skill 安装五个入口分别有什么安全风险怎么按最小权限原则完成每项配置怎么定期检查并及时收回不再需要的权限一、入口一账号 — 安全的第一道门风险行为后果正确做法借用同事账号责任不清任务记录混淆只使用本人账号让别人代扫码登录后续操作不在您掌控中本人扫码、本人确认共享电脑不退出后来者能看到您的对话和文件用完退出、锁屏离开一个被忽视的场景小陈在共享会议室的电脑上登录了 WorkBuddy 处理一份合同开完会直接走人没有退出。下午另一个同事用这台电脑时直接看到了小陈的任务列表、对话记录和已授权的文件夹内容。账号就是责任边界——从登录那一刻起后面的操作都挂在你名下。二、入口二远程控制 — 别让二维码成漏洞远程控制让您手机遥控电脑——二维码就是数字钥匙。需要说明的是微信仅作为消息通道WorkBuddy 不会通过微信获取您的联系人、聊天记录等私人数据。风险为什么危险怎么防截图二维码发到群里谁扫到谁就能远程控制您的电脑不截图、不转发、只当面扫长期不用还绑着多一个远程入口多一个暴露面不再使用及时解绑远程指令含敏感信息IM 平台可能留下记录不通过远程发客户隐私、密钥远程控制二维码就像家门钥匙——不给别人看不用了就换锁。三、入口三API Key — 这不是普通配置项重要机制WorkBuddy 默认模式下无需配置 API Key所有模型调用由腾讯云端中台统一处理。只有当您手动开启「自定义模型」模式时才需要配置自己的 API Key。错误做法后果正确做法把 Key 写进项目文档谁看文档谁拿走您的密钥只在 WorkBuddy 设置页填写截图发群聊「大家用这个」瞬间扩散无法追溯每人用自己的 Key或企业统一授权怀疑泄露还在用被盗刷、数据外发立即禁用旧 Key重新生成API Key 就像你家门钥匙——丢了的后果是别人能冒用你的额度。怎么防只在 WorkBuddy 设置页填写不截图不分享。万一怀疑泄露了立刻去模型服务商后台重新生成一个旧的就作废了。四、入口四文件授权 — 够用就好用完收回原则为什么只给必要新建临时目录只放本次文件操作前备份批量处理前复制一份错了还能挽回高危确认删除/覆盖/脚本执行前看清提示用完收回任务结束检查并移除不再需要的授权文件授权的安全不在一次性设好而在每次都检查——范围够不够小、用完了没收回。五、入口五Skill 安装 — 只装可信的扩展Skill 能扩展 WorkBuddy 的能力但也可能引入风险。虽然官方 Skills 经过安全审核但第三方 Skill 需要您自己判断。风险行为后果正确做法安装来源不明的 Skill可能包含恶意代码或数据窃取逻辑只安装官方或可信来源的 Skill不查看 Skill 权限说明不知道 Skill 能访问哪些数据安装前阅读权限说明长期不清理已安装 Skill过期或不再需要的 Skill 仍保留权限定期检查并移除不再使用的 SkillSkill 就像给 AI 配操作手册——装上 xlsx 技能AI 就多了读 Excel、画图表的本事。只装你了解并信任的。六、全章安全决策速查阶段关键问题决策口诀该不该用数据能分级吗场景适合 AI 吗先判断再输入给多少权限选什么模式要不要降级授权范围够不够小拿不准就退一档能信几分核数据了吗核逻辑了吗核场景了吗三步不过不发出去门守住了吗账号谁的二维码安全吗Key 泄露了吗授权收回了吗Skill 可信吗五个入口定期检查 本 节 总 结核心要点回顾账号只本人用不代登录、不共享——责任从登录开始远程控制二维码不截图不转发不用了及时解绑API Key 默认模式下无需配置开启自定义模型模式后密钥仅存本地、不外传文件授权按最小权限原则建临时目录、用完收回Skill 只安装官方或可信来源定期检查并移除不再使用的扩展实战挑战5 分钟逐一检查五个入口账号是不是只有你在用远程绑定有没有过期的API Key 状态正常吗文件授权有没有忘了收回的已装 Skill 有没有不再用的本章总结章节要点5.1 使用决策不是所有事都该交给 AI——先判断数据等级和场景风险再决定用不用5.2 权限边界拿不准就退一档——从 Craft 到 Plan 到 Ask权限越小越安全5.3 输出验证三步不过不发出去——核数据、核逻辑、核场景5.4 防线配置五个入口定期查——账号、远程、API Key、文件授权、Skill 一个不漏定期更新提醒安全是一个持续的过程。建议您定期检查 WorkBuddy 版本更新及时安装安全补丁同时关注已安装 Skill 的更新确保使用最新版本。安全习惯不是在限制你用 AI——恰恰相反养成了这些习惯你才能放心地越用越深。本章你已经建立起安全使用 AI 的习惯下一章我们走进企业场景看看如何构建和管理面向团队的企业智能体把个人能力放大到整个组织。
