先给结论:如果缺失集中在某一设备,不要问“样本够不够”,而要先判断这类缺失是否与你要分析的结论变量相关。相关,则偏差风险高,原结论应降级为待验证假设;不相关,则可在标注口径后保留结论,但必须限定适用范围。判断依据不是缺失比例本身,而是缺失机制和该设备用户在关键行为上的差异方向。
设备维度的缺失通常不是随机丢数,而是采集链路差异造成的。可用三种机制来分类:
判断属于哪种,不能只看缺失比例。需要检查该设备用户在其他可观测维度上是否与整体不同,比如访问深度、回访间隔、转化路径长度。若差异明显,就应倾向按非随机缺失处理。
缺失集中时,关键是估计偏差方向,而不是精确补数。可执行的最小动作是:
例如,假设你要判断“移动端用户更偏好短内容”。若缺失集中在某类平板设备,而这类设备在可观测的停留时长上明显高于手机组,那么缺失可能让手机组的偏好被高估。这个例子是假设,用于说明比较方法,不代表真实项目结果。
注意:第三方估算流量、搜索引擎报告与站内统计口径不同,不能互相直接替代。缺失设备上的站内行为,不能靠外部流量估算还原。任何单一指标归零或异常,都有多种合理解释,不能单独用来证明处理正确。
保留结论适用于:缺失设备在可观测关键指标上与整体无显著差异,且缺失比例不影响结论方向。此时应在结论中注明“未覆盖某设备类型”,并限定结论只适用于已覆盖设备。
改写结论适用于:缺失设备与整体存在可观测差异,但差异方向可估计。此时把绝对判断改为条件判断,例如“在已覆盖设备上,短内容偏好更明显;缺失设备是否同样成立,需补充数据”。
退出该结论适用于:缺失设备恰好是结论变量的主要来源,或无法在可观测维度上做任何比较。此时继续分析只会放大偏差,应暂停输出结论,先修复采集或获取补充数据。
三种选择没有固定优先级,取决于缺失机制是否与结论相关。若无法判断相关性,默认按退出处理更稳妥。
在缺少完整数据或权限时,最小动作是:对缺失设备组和完整设备组,各取一个共同可观测的行为指标,做分布对比,并记录差异方向。这个动作不需要补数,也不需要额外权限,只需已有数据。
结果如何影响下一步:
这样做的目的不是消除偏差,而是让偏差可见、可描述、可限定。只有偏差方向明确后,后续的受众判断才有可靠的前提。