先把“栏目”当成一个入口集合,而不是一批页面:它通常同时存在于导航、面包屑、列表页、内链、站点地图、结构化数据和外部链接中。删除前用一次可控的抓取与日志抽样,把这些入口按来源列全,再决定是保留、改写还是退出;只删页面文件而不处理入口,最容易出现旧链接返回异常、导航指向空目录、用户从搜索或收藏进入后无路可走的情况。
同一个词在不同站点里指的东西不一样:它可能是一个目录、一个标签聚合页、一个筛选参数,也可能只是一组手工维护的列表。边界不清,入口就永远找不全。建议先回答三个问题:该栏目有没有独立 URL 前缀;它是否被导航或面包屑引用;它是否被其他页面当作“分类归属”写入链接或结构化数据。
把答案写成一张入口来源表,至少覆盖:全站导航与页脚、面包屑、文章正文内链、侧栏与相关推荐、列表分页、站点地图、RSS、结构化数据中的分类字段、站内搜索的默认结果、外部链接与用户收藏。这张表的作用不是追求完整,而是让后续每一步都有可核对的对照物。
删除前做一次站内抓取,记录所有指向该栏目 URL 前缀的链接及其所在页面;同时抽取一段服务器访问日志,看这些 URL 的实际请求来自哪里。抓取反映的是页面里写了什么,日志反映的是用户和爬虫实际走了什么,两者不一致恰恰是重点。
如果抓取显示入口很少,但日志里该栏目 URL 仍有稳定请求,合理解释至少有三种:外部链接或收藏仍在导入、站内搜索或参数拼接生成了未被抓到的链接、旧页面被缓存或镜像保留。反过来,抓取显示入口很多而日志请求很少,也可能是这些入口本身流量极低,或日志采样窗口太短。请求量下降或归零不能单独证明入口已经处理干净,它只能说明这段时间内没有观察到请求。
当栏目仍有独立搜索需求、且站内确实能持续产出该主题内容时,保留更合理。此时动作不是原样不动,而是确认它的入口都能正常到达、列表不为空、分页和排序参数不会产生大量重复页面。保留的前提是有人维护,否则它会慢慢变成一堆过期链接。
当栏目本身不再独立,但其中部分内容仍有价值时,改写为更宽的主题页或并入上级栏目更合适。改写要处理的是“入口指向哪里”:导航项、面包屑、正文内链、结构化数据里的分类值需要同步指向新地址,而不是只做一次跳转就结束。跳转能接住旧链接,但接不住仍写着旧分类名的模板和导航。
当栏目没有独立需求、内容可被其他页面覆盖、且维护成本高于收益时,退出更干净。退出的关键不是删得多快,而是先决定旧 URL 的处置:返回 404、410,还是跳转到最相关的替代页。这个选择取决于旧链接是否仍有外部引用、用户是否可能从收藏进入。若仍有较多外部链接,直接 404 会让用户和爬虫都落到空处;若内容已完全被替代页覆盖,跳转更连贯。
假设某站要删除“行业观察”栏目,它有三个入口:主导航、文章底部相关推荐、以及每篇文章结构化数据里的分类字段。按下面的顺序做,可以把影响控制在可解释范围内。
这个例子里,关键动作是“先抓取再改”,它决定了后面是跳转还是直接删除;如果跳过这一步,很可能在导航删掉之后,结构化数据里还留着旧分类,用户从搜索进入时仍会看到不一致的归属信息。
删除栏目后,入口数量、请求量、点击量都可能变化,但这些变化不能直接归因于这次删除。比较时至少考虑:季节与搜索需求本身的波动、数据采集口径是否一致、统计窗口是否覆盖了缓存和外部来源的延迟。更稳妥的做法是把“入口是否仍存在”作为主验证指标,把流量指标作为辅助观察,而不是用一次流量下降来证明删除正确或错误。
最后,把入口清单和处置决定留成一份可复查的记录:哪些入口被移除、哪些被改写、旧 URL 指向哪里。下一次再删栏目时,这份记录就是起点,而不是从零再猜一遍。