直接回答
BERT 与小型 LLM 是不同方法，不能笼统认定哪一种在手机文本抽取中更好。BERT 类编码器生成上下文表示，通常通过任务头针对固定任务微调，例如文本分类或片段标记。小型 LLM 则根据提示生成文字，可以按要求输出抽取结果，但仍须做结构校验和人工审核。如果字段固定、输出规则严格，应在同一审核语料上比较专用编码器与 LLM。若输入是图片或扫描 PDF，还需单独设置 OCR 阶段；语言模型收到识别后的文字，不代表它完成了页面文字识别。BERT 与 MobileBERT 的官方论文介绍了编码器及下游任务和移动模型研究方向；Google Gemma 手机部署文档描述的是端侧文本生成。这些资料说明候选架构，不代表任何产品结果。测试时应固定文件、任务头或提示词、分词器、运行时、设备和样本，并测字段正确性、拒答行为、内存、时延与失败。不能从“BERT”“LLM”或参数标签推断质量或手机适配情况。
场景：从现场记录抽取维修字段
一支现场服务团队想让手机应用从维修文字记录中抽取设备编号、问题类别、日期和负责动作。字段事先明确，下游软件需要固定结构。部分记录会省略字段或包含否定句，例如“检查之前不要重启”。团队正在考虑微调的 BERT 编码器与小型指令式 LLM，但还没有针对这项任务的匹配移动端测量。
决策
使用版本化的合成或经同意的语料，并附审核后的字段标签，要求两个方案输出相同结构及明确的缺失值。比较 BERT 任务头与 LLM 生成后经校验的结果。分别统计漏项、编造字段和否定错误；不要把文字流畅度当作抽取准确度。
预期结果
团队可以判断哪一种准确文件与运行时组合在指定设备条件下满足预先制定的抽取标准，也可以得出两者证据不足。结论仅适用于测试任务、语言、输入路径和构建版本。
需要收集的证据
只有将以下证据与同一模型文件和测试运行关联起来，结论才可复核：
- 共用抽取语料和字段结构
- 模型、任务头及运行时清单
- 字段级质量、资源与失败记录
发布结论只对所记录的配置和验收集有效；扩大适用范围需要更多记录。
实施流程
- 选模型前先定义抽取目标. 列出所有字段、允许值、规范化规则和缺失值处理方式。明确哪些文本片段必须原样保留，以及什么错误会造成关键矛盾。将对已输入文字的抽取，与 OCR、文档版面分析、摘要和开放式问答区分开。
- 建立标注语料并安全切分. 准备隐私安全的样本和经过审核的参考字段，覆盖普通记录、缩写、日期、姓名、否定、不完整记录，以及要求模型忽略抽取任务的干扰文字。训练、调优和评估样本应分开。未获批准前，不要把客户私人记录放入公开测试库或外部标注服务。
- 固定每种候选的模型和任务组件. BERT 路径记录编码器 checkpoint、分词器、微调版本、任务头和标签映射。LLM 路径记录准确模型文件、提示模板、分词器、解码规则、输出结构和校验器。转换格式和文件来源也要入档；单写模型家族名称无法复现候选方案。
- 匹配预处理和输出规则. 两种方法使用相同的文本规范化、截断规则和字段定义。如果其中一条管线加入分句或实体规范化，应记录并固定该步骤版本。要求 LLM 输出通过与编码器相同的结构校验；JSON 不合法或必需字段缺失都应记作失败，不能静默修补后再算通过。
- 在相同移动条件下运行两种候选. 固定实体设备、系统、应用构建、运行时版本、后端和网络状态。条件允许时，两种候选采用相同预热与冷启动流程。记录模型加载、请求、进程内存、时延、取消以及每个失败或未完成案例。桌面或其他转换版本的结果不能代表手机对比。
- 评估字段行为，而非文字风格. 逐字段将每条结果与审核参考对比，统计准确匹配、遗漏、无依据补充、规范化错误和否定翻转。对高风险字段，预先规定正确结果是填入值、明确未知还是拒答。在政策和证据确立前，产品流程应保留人工复核。
- 发布范围明确的结论并保存产物. 报告语料版本、标签政策、编码器与任务头、LLM 文件与提示词、预处理、运行时、设备、系统、指标及失败情况。明确指出哪些内容未测。不要因一个任务或一台手机就宣称某种架构普遍更快、更小、更准或更兼容。
让每个阶段的状态都可观察。失败信息应指出阶段、模型、运行时和恢复动作，同时避免记录用户私密内容。
验收标准
- 两种方案使用相同文本、字段结构、规范化规则和评估样本；模型及输出组件差异均有记录。
- 必填字段、缺失值、否定、编造内容和格式错误都根据已审核标签评分，并保留失败样本。
- 运行时、设备、内存和时延观察来自准确的移动配置，且注明方法和失败运行。
- 结论限定于具体任务，不外推为架构质量、OCR 支持、设备兼容性或生产就绪结论。
决策对照表
| 维度 | 选择或证据 | 解读方式 |
|---|---|---|
| 任务结构 | 带分类或片段标记任务头的 BERT 类编码器 | 字段与标签规则稳定时可作为候选；要评估准确任务头和标签，不能只看编码器名称。 |
| 任务结构 | 提示小型 LLM 生成固定结构的抽取结果 | 指令或输出较灵活时可作为候选；每个字段和格式错误仍需校验。 |
| 输入是扫描件或照片 | 先执行 OCR／文本识别，再送入任一语言理解方案 | 识别和抽取是不同阶段；BERT 或 LLM 收到文字不等于已完成图像识字。 |
| 字段缺失或有歧义 | 采用相同的未知、拒绝或人工审核规则 | 比较两个方案是否编造值，或能否正确将字段留空。 |
| 移动部署证据 | 固定一台设备、模型文件、运行时、后端和代表性工作负载 | 架构论文和移动定位不能代替对指定软件栈的实际测量。 |
需要避免的失败模式
- 把 OCR 与文本理解混成同一任务
- 只根据参数量或架构名称排名
还要避免静默回退、版本未固定、缺少取消处理，以及把不同配置的结果混在一起下结论。失败运行也应与成功记录一并保存。
最小复现记录
| 层级 | 记录内容 |
|---|---|
| 设备 | 厂商、型号、芯片、内存档位、操作系统版本 |
| 软件 | 应用版本和 Git 提交号 |
| 模型 | 系列、变体、版本、格式、文件长度、摘要、量化方式 |
| 运行时 | 名称、版本、请求后端及实际后端证据 |
| 工作负载 | 样例版本、输入摘要、提示词摘要、输出策略 |
| 结果 | 完成、失败、取消、回退及保护隐私的诊断信息 |
发布检查表
- ☐ 主要搜索问题已回答，且没有未经支持的数字。
- ☐ 所有模型文件和运行时版本均已固定。
- ☐ 代表性任务和失败处理策略均有说明。
- ☐ 生命周期、取消、清理和回退均已测试。
- ☐ 用户内容与网络边界均有说明。
- ☐ 结论只适用于被记录的配置。
- ☐ 新增测试结果时链接到原始方法或证据。
来源与相关证据
- Cove 基准测试方法
- ML Kit text recognition
- Google Research — BERT 预训练与下游任务论文
- ACL Anthology — 面向资源受限设备的 MobileBERT
- Google AI for Developers — 在移动设备上部署 Gemma
- Google ML Kit — 文本识别结构
中文部署与排错专题见。奇连 AI 端侧专题。
常见问题
BERT 和小型 LLM 哪个在手机文字抽取上更准确？
仅凭模型名称无法得出与任务无关的答案。BERT 类编码器常针对专门输出进行微调，LLM 则根据指令生成文字。应在同一审核语料、结构、设备和错误规则下比较，并统计遗漏、编造字段和否定错误。
BERT 或小型 LLM 能直接从照片里抽取文字吗？
仅凭架构名称不能这样认定。照片或扫描页需要先经过图像转文字识别。之后语言模型或任务专用抽取器才能处理识别文字。OCR 和字段抽取应分别测量，避免把识别错误算成模型理解错误。
BERT 会直接返回 JSON 吗？
BERT 编码器本身不是通用文本生成解码器。常见部署会把表示映射到专门输出，例如标签、片段或分类分数，再由应用代码序列化。应明确验证映射和结构，不能因编码器经过预训练就推断 JSON 一定正确。
小型 LLM 能否离线输出结构化字段？
如果准确模型文件与资源已就绪，本地 LLM 运行时可以在移动设备生成文本，但这不能证明某个抽取应用或配置离线可用。断网测试新请求，将结果按结构校验，并记录格式错误和无依据字段。
哪种方案在手机上内存更少或速度更快？
不能只根据架构名称推断。模型文件、精度、分词器、运行时、任务头、上下文、预处理和设备都会影响资源。请对准确候选和相同任务进行测量，并分别报告磁盘文件、进程内存和请求时延。