官方资料能确认什么,不能确认什么
Qwen 3.5 2B 是 Qwen 团队发布的开放权重模型。Qwen3.5-2B 官方仓库将任务标为 image-text-to-text,在许可证栏列出 Apache 2.0,并说明模型为 2B 参数。官方配置文件把 max_position_embeddings 设为 262,144。这些都是针对明确仓库及其配置文件、可以回到原始页面核对的事实。
但它们不能证明某台手机能运行这个模型,也不能证明某个社区 GGUF 转换与官方文件完全相同;更不能据此得出量化文件大小、最低 RAM 或生成速度。旧版页面曾在没有设备实测记录时写出这些结论,本次已删除。手机运行问题仍值得研究,但需要在具体文件和运行时上做可复现测试,不能从模型卡推断。
官方模型仓库包含模型卡、配置、分词器相关文件和 Transformers 生态下的权重。模型卡还给出特定任务和设置下的评测表,以及 vLLM、SGLang 等框架的示例。这些结果适用于各自明示的评测条件,不是 Android 实机测量,不能转写成手机速度数据。阅读该页时,最好把三个层次分开:模型家族、下载的精确文件,以及执行它的运行时与设备组合。
| 问题 | 当前可核对的证据 | 仍未证明什么 |
|---|---|---|
| 这是哪个模型? | Qwen 团队的 Qwen3.5-2B 仓库、模型卡、配置文件和许可证栏。 | 其他仓库中的同名文件与官方文件逐字节一致。 |
| 上下文限制是多少? | 官方模型卡和配置记载原生上下文为 262,144 token。 | 转换文件与目标运行时是否开放同样上限,或手机能否在内存范围内完成任务。 |
| 模型支持图像吗? | 官方仓库将任务标为 image-text-to-text,并提供视觉配置。 | 任意量化转换是否保留视觉能力,或某个手机后端是否能正确执行。 |
| 它适合手机吗? | 模型的参数量和搜索需求足以说明“值得测试”。 | 最低 RAM、兼容手机名单、离线行为、延迟、电池或持续运行结论。 |
“262K 上下文”不等于手机容量承诺
上下文数字是模型或配置中的边界,不是应用可以不加条件使用的保证。一次请求会把系统指令、用户内容、历史对话、格式标记以及图片等多模态输入都纳入上下文,随后还需要空间生成回答。运行时可以采用更小上限,转换文件或后端差异也可能改变实际接受的输入。
较长输入还可能改变内存需求。下载文件只是工作集的一部分:运行时缓冲、KV cache、分词后的输入、图像张量、内存分配器行为和操作系统余量都会产生影响。因此事实卡禁止把“2B 参数”直接推导成“需要某个固定 RAM”。Android 的 Memory Profiler 可以用来观察应用内存,但有效结论还必须记录精确模型文件、运行时、设备、系统、测试任务和测量边界。
做应用决策时,应分别记录“模型公布的上限”“运行时配置上限”“实际接受的输入”和“完整完成的任务”。如果长输入已经开始处理,却最终内存不足或被截断,就不能算作承诺的任务已完成。同理,在服务器框架命令里配置到模型卡所写的上下文,只能说明该服务器设置;它不等于 Android 手机的实测。不要只用重复词填满窗口,还应测真实的提示结构和需要生成的输出长度。
GGUF 文件需要自己的证据链
GGUF 是 llama.cpp 及兼容工具使用的一种模型文件格式,不是“Qwen 官方手机版本”的同义词。Qwen 官方页面链接到量化模型浏览入口,但每个转换或重新打包模型都位于各自的仓库。发布者、不可变版本、转换脚本、量化类型、分词器、聊天模板、多模态文件和许可证,都应该逐项检查。两个文件即使显示相同模型家族名称,精度、附带文件和兼容性仍可能不同。
开始手机 GGUF 实验前,建议保存以下清单:
- 精确的仓库和不可变 revision,不要只记录会变化的
main页面; - 文件名、精确字节数、量化标签,以及发布者提供时的哈希值;
- 转换来源、分词器、聊天模板,以及转换文件要求的视觉或投影文件;
- 使用的 llama.cpp 版本或 commit、构建参数与选用后端;
- 手机型号、系统版本、测试输入、内存记录、成功结果和失败记录。
若发布者提供文件摘要,应核对下载字节;如果没有,就不要编造哈希,也不要暗示发布者已经验证了文件完整性。Qwen 官方基础仓库使用 Transformers 格式,GGUF 应关联到自己的转换来源,而不应宣传成同一个官方文件。更细的实机测试流程见Qwen 3.5 2B GGUF 评估计划。
一次可复现的手机测试场景
假设团队想判断某个 Qwen3.5-2B GGUF 能不能在一台 Android 手机上支持离线摘要功能,用户希望完成模型准备后,在断网时总结长文档。下面是决策场景,并不意味着 Cove 或任何指定型号的手机已经通过测试。
- 固定测试候选项。 记录 GGUF 仓库 revision、文件、分词器/模板、量化方式、llama.cpp commit、应用版本、手机和系统镜像。把链接和可用的哈希写进清单。若比较两个候选项,一次只改变一个变量,避免同时换模型、运行时和量化后不知道差异来自哪里。
- 先定义任务验收标准。 准备不含私人内容的文档样本及经过复核的摘要参考,列出人名、日期、否定关系和引用细节等必须保留的要求。事先确定语言、提示词结构、输入输出长度、评分方法和失败政策。
- 先跑短输入基线。 确认运行时能加载文件、返回结构正确的文本并正常释放。记录预期后端是否真的初始化,还是应用悄悄切换到另一条路径。手机有 GPU/NPU,不等于这个模型已经使用了它。
- 逐步增加输入长度。 使用固定的一组由短到长的输入,记录分词器统计的实际 token 数和运行时配置。保持系统提示、任务、解码设置和目标输出长度一致。第一次出现失败、截断、质量不合格或内存压力时都应保留该记录,不能只报告成功案例。
- 观察完整生命周期。 在固定检查点记录冷加载、首次请求、后续请求、取消、应用后台/前台切换及释放。观察内存状态,并记录系统压力或进程被结束的情况。重复固定工作负载,查看结果是否随时间变化;不要用平均值抹掉失败。
- 断网并测试恢复。 模型资源确认就绪后关闭网络,冷启动应用,重跑任务;条件允许时也在重启后测试。之后恢复连接并检查是否有更新请求或远端回退。这样可以分开验证本地推理、模型分发和其他联网服务。
- 只发布窄范围结论。 结论写明测试的精确文件、运行时、设备、工作负载和输入长度。只有保存原始记录后,才能讨论速度、兼容、RAM 或离线结论。一次通过只说明这套环境的结果,不是一张设备支持矩阵。
| 决策维度 | 比较对象 | 验收证据 |
|---|---|---|
| 文件来源 | 官方 Transformers 文件与指定 GGUF 转换 | 来源、revision、分词器/模板、许可证和文件身份都有记录。 |
| 上下文 | 模型卡上限、运行时配置和已完成的输入 | 完整任务没有截断,也没有隐蔽的网络回退。 |
| 手机执行 | CPU/GPU/NPU 路径与进程生命周期 | 精确设备上的后端证据、内存检查点、失败、取消和释放记录完整。 |
本文会推荐什么,不会推荐什么
官方卡片给出了继续评估 Qwen3.5-2B 的理由:2B 参数、image-text-to-text 任务、Apache 2.0 许可证,以及 262,144 原生上下文。它也列出了特定测试条件下的模型评测。这些事实说明它值得进一步评估,却不能证明它已是经验证的手机模型。官方仓库展示了若干服务器框架示例,并说明推理效率会随框架而变化。模型家族的一般描述、第三方 GGUF 下载和一次演示,都不能代替本机测量。
本页不声称 Cove 使用 Qwen。当前站点的产品信息和这篇公开模型说明是两件事;在模型目录中介绍外部模型,并不等于宣布 Cove 集成或分发了它。同样,“开放权重”“Apache 2.0”和“离线”回答的是不同问题:许可证要看精确仓库;本地执行要在准备完成后断网测试;隐私还需要检查应用联网数据流。仅在一次测试时开启飞行模式,不能证明下载、分析、备份或之后的同步永远不会联网。
常见问题
编辑状态:英文版与中文版本于 2026-09-24 依据 Qwen 官方模型卡和配置改写。中文版待站长母语复核。