文档标题检测:先约定什么才算标题

大字体不一定是标题,页眉、表头和正文强调也可能很醒目。

edyang · 2018-09-05

大字体不一定是标题,页眉、表头和正文强调也可能很醒目。标注规则必须能由不同人一致执行。

本文使用合成文档图、YOLO 标注格式与 OpenCV 3.4。文档标题与印章定位先是数据定义问题,再是模型问题。框代表什么、哪些情况不标以及如何处理多页,都会改变训练目标和评估含义。

1. 从现象推到机制

标题类别要定义层级、跨行范围和多标题处理。框包围全部标题文字还是包含周边留白,也会影响训练目标。页眉与附件标题等难例需要明确正负样本,不让标注者靠个人感觉。

文档标题检测:先约定什么才算标题的处理、反馈与观察关系

图中的四个节点分别表示类别定义、边界规则、独立标注、版本修订。顺着实线检查输入如何变成输出,再沿虚线核对反馈条件。图示表达的是本文讨论的关系,不是实测曲线或现场截图。

2. 最小实现与输入条件

用合成页面写一页标注说明,给出正例、反例和模糊案例处理。两人独立标少量页面,再比较分歧并更新规则。

1
2
3
4
class title:
  include complete text block across wrapped lines
  exclude repeated page header and table column header
  ambiguous case -> review, do not guess silently

先建立少量人工可复核的合成样本,保留原图、标注和处理版本。按文档来源或模板拆分集合,禁止同一原件的不同裁剪分别进入训练与测试形成泄漏。

3. 用对照区分原因

下表列出需要主动改变的条件。预期行为来自机制分析,复现时还需记录运行环境和原始输出,不能将预期当作已经测得的结果。

改变的条件 需要验证的行为
标题换成两行 框应按规则覆盖完整标题块
页眉字体同样很大 仍按语义规则决定类别
不同标注者产生分歧 先修订规则再扩大数据量

对照 1:标题换成两行

框应按规则覆盖完整标题块。观察时记录跨行范围与留白标准。把这个条件与基准情形分开,有助于判断变化来自哪一层;若得到相反结果,应先核对前提,再修改实现。

对照 2:页眉字体同样很大

仍按语义规则决定类别。观察时记录正反例说明与标注一致性。把这个条件与基准情形分开,有助于判断变化来自哪一层;若得到相反结果,应先核对前提,再修改实现。

对照 3:不同标注者产生分歧

先修订规则再扩大数据量。观察时记录同一页的独立标注差异。把这个条件与基准情形分开,有助于判断变化来自哪一层;若得到相反结果,应先核对前提,再修改实现。

4. 适用条件与取舍

类别规则改变后,需要标注版本和受影响样本清单。不能把不同含义的旧新标签混在一起训练又比较结果。

一次正常运行只覆盖了这组输入。继续扩展前,应把上面的异常对照保留下来,尤其关注“不同标注者产生分歧”这一分支。后续方案若改变了图中任意一处依赖,原来的判断就要重新验证,不能仅凭界面相似或返回值相同沿用结论。

同月延伸

参考资料

  1. YOLOv3 训练资料
  2. OpenCV 3.4.0 文档