明确界定的端侧推理
让 AI 模型在承载任务的设备上运行。
本地推理改变的是提示词在哪里处理。它是一道有用的隐私边界,但不能证明整个应用完全离线、没有网络请求或已经公开发布。
- AI 使用本地模型路径时,推理在终端设备执行
- 0 本地推理无需把输入发送到远程推理服务器
- — 发布、购买和网络行为需要分别核实
本地推理不等于零网络流量
端侧 AI 指模型在用户的终端设备上执行推理。云端推理则会把提示词或其他输入传到远程基础设施,由那里的模型生成结果。本地路径可以避免这一特定传输:用于该次推理的输入不必发送给模型服务器。Google AI Edge 文档介绍了在 Android 上运行 Gemma 的路径,LiteRT-LM 也提供 Android/JVM 引擎 API。这些资料说明技术和集成方式,并不是对 Cove 全部网络行为的独立审计。
应用仍可能为了推理以外的工作联网,例如首次使用前下载模型、验证购买、发送用户主动订阅的邮件,或提供可选诊断。具体服务、设置和涉及的数据取决于产品实现。本地执行模型不能证明其他请求都不存在,也不能证明每款 Cove 应用中的所有数据都只留在手机。作出决定前,请阅读当前隐私说明,了解网站披露的做法,并查看具体产品的说明。
网络检查结果也有适用范围。Android Studio 的 Network Inspector 可以显示受支持的流量,例如被检查进程中通过受支持的 OkHttp 和 HttpsURLConnection 发出的请求;它不保证覆盖所有网络库或所有执行路径。检查窗口没有事件,不应被说成“绝无网络流量”的证明。我们按同一原则措辞:区分推理路径与整个应用,也区分架构说明与经过核验的产品审计。
延迟取决于设备、模型和任务
本地推理可以免去工作流程中访问远程模型服务器的网络往返,但这不代表答案一定很快。实际结果仍取决于具体模型文件、运行时、设备硬件、内存压力、输入长度和任务。框架提供 CPU、GPU 或 NPU 执行路径,只代表存在相应配置选项,并不能证明某部手机正在用某种加速器运行某个模型。
目前没有经过验证的原始基准记录,能支撑过去页面中提到的特定手机和响应时间。因此这里不承诺“不到一秒翻译”,不引用云端与设备端的计时对比,也不把某个型号称为受支持或运行很快。Google AI Edge 文档说明开发者如何配置 LiteRT-LM 引擎和后端,但不会替 Cove 的具体模型与设备组合背书。要进行有效对比,必须用相同任务、模型、应用版本、设置和设备进行可复现测试,并保留原始观察记录。证据发布前,延迟是一个需要测量的问题,不是营销数字。
断网时,哪些步骤可能继续工作
在获得兼容模型并且应用初始化本地推理路径后,该推理步骤不需要连接远程模型服务器。因此,在隧道、飞机上或网络不稳定的地方,本地处理可能很有用。这些例子是在说明架构优势,并不表示 Cove 目前的每项功能都能在飞行模式下使用。
首次使用可能需要下载模型,应用的其他功能也可能有独立网络依赖。实际检查时,请把设置和使用分开:先获取模型、阅读产品当前说明,再关闭网络测试具体功能,并记录哪一步成功、哪一步失败。一个任务或版本的结果,不能自动推广到其他产品、系统版本或模型构建。我们不会笼统承诺 Cove 全家族今天都能离线工作。
代价和限制也是设计的一部分
本地模型需要先交付到设备,并占用存储空间和运行内存。首次下载可能较大;实际大小取决于模型文件和发布版本,请查看相关产品中的当前信息,不要依赖过时数字。推理还会使用手机的算力、内存、电量和散热余量。框架能够调用 CPU、GPU 或 NPU,并不能告诉你手机上的速度、能耗或长时间运行表现。
较小或本地打包的模型并不一定能在每种语言、长文档或专业任务上达到远程服务的效果。Cove 目前没有公开的基准测试集来支撑普遍的质量或速度排名。请结合具体任务、使用语言、可用模型,以及是否能偶尔联网作出判断。如果涉及重大后果,请用适当来源或专业人士核实结果。本地处理可以减少特定数据传输,但不能保证应用周边每项功能都保密、结果一定正确,或适合某种决策。
产品规划和已核实的可用性不是一回事
Cove 是一组产品,但共享设计目标不代表每款应用都已完成或可公开下载。截至 2026 年 9 月 27 日核查,网站下载卡片设置为收集发布通知,且没有经过核实的公开 APK 链接或摘要值。Cove Travel 与 Cove Photo 已有接近发布状态的源代码和发布步骤文档,但这本身不能证明已公开发布。Cove Voice 仍在开发中;Cove Health 还需要真机安全验证。
因此,本页说明本地推理架构及当前证据边界,不把所有产品的每个字节都纳入隐私保证,也不把计划中的应用说成已经可用。可用性、模型兼容性、网络行为、价格和性能,应从当前产品说明与可验证的发布文件中确认。证据变化时我们会更新这些说法。在此之前,“为本地推理而设计”只是对执行路径的描述,不代表完整、经过审计且可离线使用的产品已经可以下载。