隐私与数据边界

本地 AI 用户反馈的数据最小化测试

测试用户主动反馈与自动遥测、支持包之间的数据字段、传输和保留边界。

审核状态: 内容已校验;中文稿供用户审核 · 2026-10-05 · Fact IDs: PRIVACY-01, PRIVACY-02

直接回答

即使主要推理在设备上,反馈按钮也可能建立新的数据路径。每份反馈都应被视为用户主动操作,并在收集前定义负载。PRIVACY-01 与 PRIVACY-02 支持区分本地执行、可选传输和披露边界,却不能证明 Cove 产品现在会发送反馈。测试要问清附带了哪些字段、用户能否检查、数据送往何处以及副本保留多久。 先定义最小可用报告。默认可以是用户选择的类别,如回答不完整或应用错误,再加应用版本和任务模式。提示词、转录、照片、健康信息、生成结果、文件路径、账号标识和诊断包都不应自动附加。如果调查需要源样本,应另设选项并说明具体用途。内容离开设备前展示准确文字或文件,并允许用户取消。 用户反馈和自动分析必须分开。反馈是逐次提交操作,可预览和拒绝;分析事件可能不会每次都提示用户,两者需要不同结构、控制和保留期。不能把每个低评分自动上传,也不能将用户自由文本放入事件名。关闭反馈界面后,还要确认不会留下稍后发送的队列请求。 用合成金丝雀测试全路径。准备带唯一标记的假提示词、结果、转录、文件名和标识符。逐个提交允许的类别,发送前取消、断网、重试、恢复联网,并捕获目的地、负载字段、响应和可用时的服务端测试收据。对比反馈开关关闭与开启的流程。一次安静会话不能证明其他功能或错误路径不会发送数据。 同意和保留应清晰可见。发送前说明报告是否离开设备、用途和可选附件。如果提供删除或撤回,要测试它对客户端队列和下游副本的作用;没有系统验证时,不承诺所有副本都已清除。保存的草稿不同于已发送报告。反馈数据的保留期也应与模型结果或崩溃诊断分开。 还要测试失败场景:上传中断、重复点击、联网后重试、应用进程死亡、账号变化,以及页面退出后 worker 继续运行。给请求分配稳定标识,保护认证材料,不记录负载正文。如果 TLS 抓取无法显示请求内容,要注明限制,改用获准测试端点或服务端收据。检查器空白不是没有负载的证据。 报告应列出构建、反馈结构版本、用户选项、预览内容、合成样例、观测字段、目的地、保留、删除表现和盲区。不要把模型质量或产品性能纳入结论。本文评估一项明确的数据传输,不声称 Cove 已有反馈功能、某份政策已满足法律要求或反馈数据天然匿名。

用户报告一次本地回答不完整

用户看到端侧任务给出不完整回答后打开反馈入口。团队要获得足够信息复现问题,却不能在没有单独知情选择时附上原提示词或模型输出。

决策

先发送最小类别与构建元数据;只有明确调查确实需要时才提供单独预览过的附件。

预期结果

测试证明用户能审核或取消,默认负载不含提示词、转录、图片和生成结果。

需要收集的证据

只有将以下证据与同一模型文件和测试运行关联起来,结论才可复核:

  • PRIVACY-01:本地推理与其他网络路径须分开
  • PRIVACY-02:数据传输和选择应明确

隐私声明需要数据清单和流量证据;“本地模型”标签本身不是证明。

实施流程

  1. 定义允许的反馈结构. 列字段、用途、必要性、目的地、保留期和负责人;没有单独审核字段时禁止源内容自由文本,并标明用户可见控制。
  2. 创建合成负载金丝雀. 用唯一假提示词、转录、照片、路径和输出,检查源内容或结果是否进入报告,并保留字段级请求捕获。
  3. 测试预览、同意和取消. 提交每个类别,发送前查看所有已选字段,在每个阶段取消并确认没有请求残留排队;记录用户看到的文案、操作顺序和受测版本。
  4. 捕获重试和目的地. 用批准端点或 mock sink 测试断网提交、重试、恢复联网、防重复、退出及账号变化,并检查队列中是否残留金丝雀字段。
  5. 核对保留和删除路径. 检查客户端队列及测试服务器副本,再将删除和撤回行为与已说明的保留策略对照,并保存响应、时间和复测责任人。

让每个阶段的状态都可观察。失败信息应指出阶段、模型、运行时和恢复动作,同时避免记录用户私密内容。

验收标准

  • 默认反馈不附提示词、转录、照片、生成答案或私人路径,除非用户另选并预览。
  • 用户可查看、取消或退出;取消或关闭后的报告不会被后台重试发送。
  • 记录负载与保留证据,不声称法律结论或模型质量。

决策对照表

维度选择或证据解读方式
主动反馈用户先审核单份报告再提交需要显示负载预览、用途、目的地和取消入口。
自动分析后台收集分类事件要单独审核结构、退出和保留,不等同反馈表单。
支持包用户主动选更完整的诊断材料属于更大范围的数据传输,要独立脱敏和复核内容。

需要避免的失败模式

  • 把差评自动转成提示词上传
  • 将自由文本塞进事件名
  • 取消后仍保留后台重试

还要避免静默回退、版本未固定、缺少取消处理,以及把不同配置的结果混在一起下结论。失败运行也应与成功记录一并保存。

最小复现记录

层级记录内容
设备厂商、型号、芯片、内存档位、操作系统版本
软件应用版本和 Git 提交号
模型系列、变体、版本、格式、文件长度、摘要、量化方式
运行时名称、版本、请求后端及实际后端证据
工作负载样例版本、输入摘要、提示词摘要、输出策略
结果完成、失败、取消、回退及保护隐私的诊断信息

发布检查表

  • ☐ 主要搜索问题已回答,且没有未经支持的数字。
  • ☐ 所有模型文件和运行时版本均已固定。
  • ☐ 代表性任务和失败处理策略均有说明。
  • ☐ 生命周期、取消、清理和回退均已测试。
  • ☐ 用户内容与网络边界均有说明。
  • ☐ 结论只适用于被记录的配置。
  • ☐ 新增测试结果时链接到原始方法或证据。

来源与相关证据

中文部署与排错专题见。奇连 AI 端侧专题。

常见问题

端侧推理就能保证反馈报告留在本机吗?

不能。反馈可能走独立网络路径。要对受测构建检查具体字段、目的地、重试和保留行为,并用合成内容核对实际请求与接收方记录。

反馈是否应默认附上提示词?

不应默认附加。先收类别与最低限度元数据;确需源内容时单独询问、展示准确附件并允许取消,同时记录额外字段的用途、接收方和保留依据。

用户取消后报告会不会稍后上传?

不能凭界面推断。应在取消后测试队列、worker、重试、恢复联网、进程重启和退出状态,并核对测试 sink 是否收到延迟请求;记录每次取消的触发时间和结果。