正常特征库维护:怎样避免异常混入

自动收集高分样本有助于复盘,但自动加入正常库可能把缺陷也学习进去。

edyang · 2022-04-09

自动收集高分样本有助于复盘,但自动加入正常库可能把缺陷也学习进去。

数据归档、人工确认和训练发布是不同权限。正常定义随产品变化时需要版本隔离,库更新会改变距离分布和旧阈值。

正常特征库维护:怎样避免异常混入:处理路径与验证条件

一、问题的范围与前提

成像质量、数据分布、算法与业务判断各自有条件。清晰图像提供可观察细节,模型和规则解释输入,业务层决定结果如何使用。视野、曝光、颜色、姿态与输入尺度变化,都可能在模型参数不变时改变结果。

二、技术分析与方案取舍

自动归档可以保存候选,是否作为正常训练数据还需要可靠审核。若把模型低分全部当正常,漏检缺陷可能反过来污染库,进一步降低敏感度。型号、成像和版本分开组织,更新后对固定正常与缺陷集回归。旧库与阈值一起保留,让回退能恢复完整条件,而不只是换一个文件名。

先固定输入和处理版本,保存必要中间产物,再比较单项变化。裁剪、缩放和配准要携带坐标关系,输出回到原图时检查尺度与偏移。数据按正常和困难条件分别组织,不把反光、遮挡或采集失败从报告中悄悄删掉。

三、实现与排查的顺序

  1. 区分候选归档与训练入库。
  2. 保留样本来源和审核。
  3. 按型号版本组织库。
  4. 发布前重跑固定集。

按这个顺序保留中间结果,可以区分输入条件、处理过程和最终输出。前一阶段的条件不成立时,先解释对应错误,再继续后面的试验;单次返回成功不足以覆盖整条链路。

最小示例

1
2
3
按地点/设备/对象/视频段划分数据
训练、验证、测试保持需要的独立性
保留近重复检查、标注争议与困难条件

随机分帧可能让同一背景出现在多组,夸大泛化效果。划分维度按部署变化选择,模型错误不能成为临时剔除测试样本的理由。

四、验证和结果解释

独立样本应覆盖预期工况,逐条预测与错误图支持复盘。分类、检测、定位和异常任务使用各自指标定义,阈值工作点与曲线指标不能混用。性能同时记录冷启动、稳态、尾部耗时和资源峰值,不挑最快一张代表整套系统。

需要验证的结果 保留的对照 不能由此推出的结论
异常不会自动成为正常 固定输入与配置、对应输出 一次成功代表所有条件成功
版本回退能恢复旧库 中断前后状态与错误阶段 没有报错代表结果正确
阈值与库版本成对保存 恢复后的同条件复测 临时恢复代表根因已经消失

验证无目标、多候选、边界、遮挡和不同光照。没有有效观测时给出明确失败或待确认,不为每张图强行选一个目标。图像文件真实保存和完整解码也属于链路检查,热力图漂亮不能替代缺陷真值与业务验收。

五、适用边界与结论

在线更新需防止无意漂移,不把低分样本全部当作正确正常。

这条路径把“区分候选归档与训练入库”与“发布前重跑固定集”连在一起,中间保留可复查的条件。实施时优先确认“异常不会自动成为正常”,再检查“阈值与库版本成对保存”;两者都满足,才能在当前样本与配置范围内评价方案。设备、数据或软件版本改变以后,相关假设需要重新验证。

参考资料