网站规模扩大后,最不适合继续手工做的不是“提交几条链接”,而是那些需要按全站比例反复执行、又必须保留可追溯记录的工作,例如批量检查收录状态、逐条核对抓取异常、手工维护站点地图与页面清单。判断标准不是“手工能不能做完”,而是“手工做法的错误率是否已经高到会误导下一步决策”。
如果页面总量长期稳定、新增只集中在少数栏目,手工处理仍然成立。此时你可以每周固定检查一次主要栏目的收录与抓取情况,把异常记录在表格里,再针对少数栏目调整内链或内容。手工的代价是时间,但换来的是对每个异常的上下文理解。
反过来,如果页面由模板批量生成、新增数量持续上升,或者异常从个别页面扩散到整类模板,手工做法就不再适合。此时手工检查只能覆盖样本,无法回答“整类页面是否都被同样处理”。继续手工的典型后果是:你看到的是随机抽样,却把它当成全站结论,下一步动作可能改错方向。
收录和抓取是不同环节。手工逐条查询只能知道某个页面当前是否被搜狗搜索收录,无法稳定区分“未被收录”“已被抓取但未索引”“被抓取时返回异常”这几种情况。规模扩大后,这类盘点应由站点地图、日志和服务端状态码统计来承担,手工只负责核对异常样本。
一个实际动作是:先按模板类型给页面分组,每组抽固定数量页面核对,再把异常率高的模板整组交给程序化检查。结果如果显示某一类模板异常集中,下一步应优先修模板或数据源,而不是继续逐页提交。需要说明的是,抓取量或收录量短期下降并不能单独证明某次操作正确,也可能是抓取配额、内容更新节奏或站点整体变化带来的,必须结合分组数据判断。
当页面数量少、栏目固定时,手工维护一份页面清单是可行的,甚至比自动生成更准确。但当页面由数据库或模板批量产生,手工清单会迅速过期。此时更适合让站点地图由程序按规则生成,手工只维护规则和排除项。
判断依据是:如果一次内容更新后,你需要手工改动超过少量条目的清单,就说明清单已经不适合手工维护。实施动作是把“哪些页面应进入站点地图”写成明确规则,例如按栏目、按状态码、按是否可公开访问来筛选。结果是站点地图能反映当前页面集合,下一步的收录检查才有稳定基础。例外是:如果站点地图生成程序本身不稳定,或规则频繁变动,手工核对仍然必要,但应只核对规则边界,而不是逐条补录。
少量页面时,手工加内链、手工判断重复内容是有效的。规模扩大后,同一模板会产出大量结构相似的页面,手工排查既慢又容易漏。此时更适合用规则化方式找出候选问题,再由人判断是否真正重复。
这里的关键取舍是:程序负责发现候选,人负责判断意图。假设某站点有多个栏目共用同一套模板,程序可以按标题相似度或正文结构筛出候选页面,但最终是否合并、是否加 canonical、是否调整内链,仍要结合业务判断。若直接把程序筛出的候选全部处理,可能误伤本来面向不同用户需求的页面。因此这类工作的正确分工是自动化筛选加人工确认,而不是完全交给程序或完全手工。
如果站点规模虽大,但核心业务页面只有少数几个,且这些页面直接关系转化,那么手工检查仍然值得保留。手工的价值在于能发现程序规则没有覆盖的上下文,例如某个页面因业务调整暂时不应被收录,或某个栏目需要临时控制抓取。此时应把手工动作限定在少数高价值页面,并记录每次调整的原因和时间,避免后续无法解释状态变化。
总结成一条可执行的分界:当工作对象是“少数可枚举页面”时,手工可行;当工作对象是“按模板或规则批量产生的页面集合”时,应转为程序化处理加人工核对异常。这个分界不依赖具体页面数量,而依赖页面是否可枚举、异常是否集中,以及手工错误是否会传导到下一步决策。