数据集的质量问题往往在项目中期才暴露,但它的成因大多在起步阶段就已埋下。开始收集数据之前,先把任务定义写清楚:输入是什么、输出标签有哪些、边界情况如何归类。把标签体系整理成一份可执行的清单,每个标签配上正例与反例,后续所有工作都围绕这份清单展开,避免边做边改、前后标准不一致。
数据来源要尽量多元且可追溯。使用公开数据集时,记录名称、版本、下载时间与许可说明;如果是自采数据,写清采集工具、时间范围和样本筛选条件。涉及个人信息的部分先做脱敏处理,替换或删除可识别字段,并在论文中说明处理方式,避免在附录、截图或演示视频里泄露真实信息。
很多同学在全部数据标注完成后再随机切分,容易造成同一来源的样本跨集出现,导致评估指标虚高。更稳妥的做法是按来源或用户分组切分,保证训练集、验证集和测试集互不重叠;时间序列任务则按时间顺序切分,不让未来信息流入训练。切分比例没有唯一答案,但要说明理由,并保持测试集在整个调参过程中不被反复使用。
标注前先写一份简短的标注手册,明确判定规则、疑难情况和处理优先级。一个人标注全部数据虽然省事,却无法评估一致性。可以邀请同学对同一批样本重复标注,统计一致情况,把分歧样本挑出来逐条讨论。分歧集中的类别通常说明规则定义过于模糊,此时应回到标签体系修改,而不是靠讨论强行统一。
标注不是一次性工作。建议先标注小批量样本,验证规则是否可行,再扩大规模。过程中保留原始标注与修正记录,便于追溯。对模型预测错误较多的样本重点复查,往往能发现标签本身的问题。若使用自动预标注,需要说明工具来源,并对结果做人工复核,避免把模型偏差固化成所谓标准答案。