先给结论:不要只看导出文件的行数,也不要只信工具界面上显示的“已抓取页数”。检查遗漏分页的完整性,核心是找一条能与导出结果独立对账的参照线——通常是站点自身的分页链接结构或站点地图——再用它反推导出结果缺了哪一段。下面用一个假设情境把决策过程走一遍。
假设某内容站有三个角色:负责运营的A、负责技术的B、负责审核的C。A用一款网站SEO工具对栏目页做了自动导出,导出文件里每个栏目只有前3页的分页URL。A认为“工具已抓完,只是这个栏目分页少”;B看了日志说“工具请求过第4页,但没写进文件”;C则坚持“页面本来就只有3页,是A记错了”。
三种说法对应三种完全不同的处理动作:如果是栏目确实只有3页,那导出是完整的,不需要任何补救;如果是请求过但没写进文件,那是导出环节的写入遗漏;如果是页面存在但工具没请求,那是抓取环节的覆盖遗漏。在没分清之前,任何“补导一次”都是盲动。
要判断导出是否遗漏分页,得有一个不依赖该工具输出的参照。常见的有两类:
假设A所在站点两类参照都有,且栏目声明“共7页”。那么导出文件里只有3页,就构成一个明确缺口,而不是“感觉少了”。这一步的实际动作是:把参照线的分页总数抄下来,作为后面所有判断的基准数字。
自动导出遗漏分页,可能断在两个环节,必须分开验证,否则会把写入问题误判成抓取问题。
这个拆分的价值在于:两种情况对应的下一步动作不同。抓取覆盖不足,要检查分页发现规则是否只认了第一页的链接;导出映射问题,则要检查导出配置里的分页字段和去重条件。假设A核对后发现日志里第4至第7页都返回了正常状态,那问题就锁定在导出环节,B的判断成立,C的“只有3页”说法被参照线否定。
在动手补导之前,先做一次小范围对照,避免把参照线本身的错误当成工具遗漏。假设A只取第4页这一个URL,手工在浏览器里打开,确认它确实存在、确实属于该栏目、确实带有分页序号。如果第4页打不开或已跳转到栏目首页,那“7页”这个参照数字本身就不可靠,缺口可能是假象。
这个动作的结果会直接改变下一步:对照通过,缺口为真,可以进入补导或调整配置;对照不通过,先修正参照线,再重新判断完整性。这里要注意,请求量或抓取量归零、导出行数变少,都不能单独证明处理正确——它们也可能是站点改版、分页规则调整或任务被中断造成的,需要结合参照线和日志一起看。
假设A调整了导出配置并重新导出,得到7页分页URL。确认完整性成立,至少要满足三个条件:导出文件里的分页数与参照线一致;每个分页URL能对应到日志中的一次正常抓取;分页顺序没有错位或重复。如果缺少其中任何一项,就还不能说“完整”。
如果工具本身没有导出抓取日志的入口,或者分页识别规则不可见,那这套对账方法就只能依赖站点侧参照线,判断精度会下降。这种情况下,更稳妥的做法是把分页清单先固定下来,再逐次比对导出结果,而不是依赖单次导出的行数下结论。具体工具是否提供日志和分页识别配置,需要以实际版本为准去核对,不能默认所有网站SEO工具都有相同能力。