识别配置互相冲突,核心方法不是逐个文件阅读,而是先确定“谁在什么条件下、把哪条规则交给百度收录入口”,再把同一路径的规则放在一起比对。只要同一路径同时出现允许与禁止、公开与屏蔽、提交与拒绝三类相反指令,就应判定为冲突。交付时以“同一路径只保留一条有效结论”为验收标准,而不是以文件写完为完成。
多人协作最常见的返工,是每个人只改自己负责的文件,没人看全链路。把交付结果定为一张对照表,每行至少包含:路径或路径模式、规则来源文件、规则类型、允许或禁止、生效条件、责任人、核验方式。规则来源通常涉及 robots.txt、页面级 meta name="robots"、HTTP 响应头中的 X-Robots-Tag、站点地图、站内链接与跳转配置。表格填不满,说明资料不全,不应进入修改阶段。
需要提醒的是,robots.txt 的抓取限制不等于可靠的索引移除:它可能阻止抓取,但已收录页面仍可能出现在结果中。因此冲突判断要区分“限制抓取”和“要求移除索引”两类目标,不能用一条规则同时承担。
robots.txt 写 Disallow: /help/,而页面级规则写 index,follow。此时抓取与索引意图相反,属于典型冲突。判断结果分三种:无冲突、可解释的优先级冲突、必须修改的硬冲突。可解释的优先级冲突指规则虽不同,但按抓取与索引的先后关系能推出唯一结论;硬冲突指无论按什么顺序都无法得到唯一结论,必须回到责任人处修改。
假设某团队要交付 /product/a/ 的收录配置,可执行以下步骤:
X-Robots-Tag。meta name="robots" 的内容。robots.txt 中查找覆盖该路径的 Allow 与 Disallow 行,注意规则顺序与路径长度。如果响应头要求 noindex,而站点地图仍提交该地址,判断结果为冲突,责任在站点地图维护方;如果 robots.txt 禁止抓取但页面级要求索引,判断结果为抓取被阻断,索引意图无法通过抓取实现。这里描述的是可能原因与已定位原因的区分:看到 noindex 只能说明该处要求不索引,不能直接断定页面一定未被收录,还需结合抓取与索引状态核查。
每条规则来源指定一名责任人,负责人在对照表上签字确认自己那条规则的目标。验收时只查两件事:同一路径是否存在唯一结论;结论是否与业务目标一致。若业务目标是让页面被收录,则抓取允许、索引允许、站点地图包含、站内可到达四项应同时成立。HTTPS 不保证安全无漏洞或排名,因此它只能作为部署条件记录,不能当作收录冲突的解释。
不同搜索引擎对规则的支持情况须分别核查,百度语境下应以百度可读取到的规则为准,不要用其他引擎的结论直接套用。交付前把对照表与修改记录一起归档,下次出现返工时可以直接定位到具体规则行。
下一步:挑一个当前争议最大的路径,按上述五步生成对照表,先判定它是硬冲突还是可解释冲突,再决定改哪条规则、由谁确认。