先按“被发现路径”划分,而不是按页面模板或上线时间划分:把已发现页面按入口类型分成站点地图、内链、外链三组,再把未发现页面按同样入口类型分成对应三组,逐一对比同组之间的差异。这样做的理由是,批量页面只有一部分被发现时,最常见的解释是入口覆盖不均匀,而不是页面本身内容质量有系统性问题。对照组的作用是把“入口差异”和“页面差异”分开,避免把抓取预算问题误判成内容问题。
如果未发现页面集中在某一种入口缺失的批次里,对照组应该按入口类型配对:已发现组里有内链指向的页面,对应未发现组里同样有内链指向的页面,比较两组的抓取记录和最后修改时间。如果未发现页面分散在各类入口中,对照组则应该按页面属性配对:同一模板、同一发布时间窗口、同一层级深度,比较两组在站点地图中的最后修改时间标注是否一致。
选择依据是入口覆盖的集中程度。入口缺失集中时,优先排查入口配置;入口覆盖均匀时,优先排查页面自身信号,比如内容是否与其他页面高度重复、是否被robots.txt误拦截。这里要注意,robots.txt的抓取限制不等于可靠的索引移除,它只阻止抓取,不保证页面从索引中消失;站点地图提交也不保证收录,它只是入口之一。两种对照方式不能混用,混用会让入口差异和页面差异互相掩盖。
具体动作是:在分组前,先导出所有目标页面的最后修改时间、模板ID、内链数量、外链数量和站点地图提交时间,然后按入口类型做第一层分组,按最后修改时间做第二层分组。假设有300个页面,其中80个已被发现,220个未发现;如果80个已发现页面中有60个来自内链入口,而220个未发现页面中只有20个来自内链入口,那么内链覆盖差异就是首要对照变量。这个数字只是说明比较方法,不是实际统计结论。
分组完成后,对每一组做同一个动作:检查该组页面的抓取日志中是否有访问记录。如果某组有抓取记录但未被索引,说明问题在索引环节;如果某组完全没有抓取记录,说明问题在发现环节。这个动作的结果直接决定下一步:发现环节的问题优先补入口,索引环节的问题优先查内容重复或质量信号。不要把“抓取量归零”单独当作处理正确的证据,抓取量下降还可能来自服务器响应变慢、入口临时失效或抓取配额调整,需要结合日志中的响应码和入口状态一起看。
以下几种情况需要单独列出,不并入主对照组:一是被robots.txt明确禁止抓取的页面,它们本来就不该出现在发现对照中;二是设置了noindex的页面,它们即使被抓取也不会进入索引,放进对照组会干扰判断;三是与已发现页面存在大量重复内容的页面,它们的未发现原因可能是内容去重,而不是入口不足。把这三类页面单独标记后,主对照组的差异会更清晰。
另外,如果站点近期更换过域名或协议,新旧页面的发现路径可能不同,这时应按域名版本再分一层,而不是直接合并比较。HTTPS本身不保证安全无漏洞,也不保证排名,它只是协议差异,不能作为发现与否的对照变量。
对照结束后,如果差异集中在入口组,下一步是补内链或重新提交站点地图,并观察补入口后同一组页面的抓取记录是否出现;如果差异集中在页面属性组,下一步是抽查未发现页面的正文与已发现页面的正文相似度,确认是否存在模板化内容过多的问题。无论哪种结果,都不要在第一次对照后就下结论,因为百度收录时间本身有波动,单次抓取量或索引量的变化不足以证明处理正确。更稳妥的做法是保留分组记录,在补入口或改内容后,用同一分组再对照一次,看差异是否缩小。只有差异缩小且方向一致时,才能把原因归到对应的变量上。