先给结论:不要急着在报告里删行,也不要直接把两个数字相加或相减。正确顺序是先把“页数”和“对象数量”各自的口径写清楚,再判断重复来自同一对象的多次出现,还是来自把非对象页面算进了总量,最后才决定按对象去重还是按页面去重。
下面用一个假设情境串起整个判断过程。假设你用站长工具抓取一个内容站,报告显示 1200 个页面,但你的内容清单里只有 980 篇文章,两边差 220。这个差额不能直接当成“重复 220 条”,它可能同时包含多种原因。
“报告页数”通常统计的是被抓取或被发现的可访问地址数量,包含列表页、分页、标签页、参数页、附件页等。“实际对象数量”统计的是你真正关心的内容单元,比如文章、商品或文档。两者天然不会相等,除非你的站点结构恰好做到一个对象只对应一个可索引地址。
判断方法很直接:从报告里随机抽 20 条地址,逐条标注它属于哪一类。如果抽到的样本里列表页、分页和参数页占比明显,那差额主要来自口径不同,而不是对象重复。此时按对象去重是对的,按页面去重会把正常页面误删。
反过来,如果抽样结果几乎都是同一篇文章的不同地址,例如带不同查询参数、带打印版、带移动版前缀,那么重复确实发生在对象层面,需要按对象归并。
第一种做法是按规范地址去重:为每个对象选定一个代表地址,其余变体在统计时归并到它名下。它成立的条件是你能稳定判断哪些地址指向同一对象,并且这些变体不会各自承载独立流量价值。代价是归并后报表总量会下降,如果归并规则写错,可能把本来独立的页面合并掉。
第二种做法是按对象清单去重:以你手里的内容清单为主表,把报告地址匹配上去,匹配不上的单独列出。它成立的条件是清单本身完整且对象标识稳定,比如每篇文章都有唯一编号或固定别名。代价是清单之外的页面会被排除在统计外,如果站点存在大量清单未登记的历史页面,你会低估真实覆盖面。
选择依据可以压缩成一句话:如果差异主要来自同一对象的多种地址形态,用第一种;如果差异主要来自报告混入了非目标页面,用第二种。两种都成立时,优先用对象清单做主表,再用规范地址做辅助归并,因为对象才是你最终要交付和复盘的单位。
继续上面的假设:1200 个报告页面,980 篇文章。抽样 20 条后发现,12 条是文章正文,5 条是标签列表页,3 条是同一篇文章带不同查询参数的地址。按比例估算,非文章页面约占四分之一,重复地址约占一成五。
这时如果直接按页面去重,你会把标签页当成重复项删掉,报告总量可能降到 900 左右,但其中仍混着参数重复;如果直接按对象清单去重,你会得到 980 个对象,但无法解释报告里多出来的 220 条到底是什么。
更稳妥的动作是分两步:第一步,把 20 条样本的归类规则写成明确的匹配条件,例如“地址含 /tag/ 视为列表页”“同一路径带不同查询参数视为同一对象”;第二步,用这套规则跑全量,输出三列——匹配上的对象、未匹配的报告地址、同一对象的多余地址。跑完之后,如果未匹配地址数量仍然很大,说明你的清单不完整,下一步应该补清单而不是继续调去重规则;如果多余地址集中在少数对象上,说明该对象的地址形态需要单独处理。
这个动作的结果会直接改变下一步:未匹配多,就回到对象清单补录;多余地址集中,就针对那几类地址形态补充归并条件,而不是全站重跑。
去重不是把数字改小就结束。你需要保留原始报告、去重规则和归并映射表,否则下次报告数字变化时无法判断是站点变了还是规则变了。建议至少记录三项:规则生效的时间范围、每条规则对应的地址特征、被归并地址的原始数量。
另外要注意,请求量、抓取量或某个统计归零,不能单独证明去重正确。它也可能是抓取被限制、规则过于激进或报告本身延迟造成的。判断去重是否合理,看的是归并后的对象能否和你手里的清单逐一对应,而不是看总量下降了多少。
如果使用的是具体品牌的站长工具,其按钮位置、字段名称和导出格式需要以你当前实际打开的界面为准,不同版本之间可能存在差异,不要照搬他人截图里的操作路径。
如果你的目标只是观察抓取趋势,而不是核对内容覆盖,那么报告页数和对象数量不一致本身不构成问题,不需要专门去重。去重的成本在于维护规则和映射表,只有当你要用这个数字做内容盘点、交付核对或跨期比较时,这笔成本才值得花。
一旦决定去重,先固定口径,再固定规则,最后固定输出格式,这样下一次报告出来时,你比较的才是同一件事。