核心做法不是关掉自动评分,而是把“评分只做分诊、人工负责定性”写进流程:先为每个待判断项目标注可自动量化的信号和必须人读的证据,再规定评分只能用于排序、触发复核或标记异常,不能直接决定处置结果。下面以你手上的一个页面或一份资料为对象,逐步把它转成可执行的处理方案。
自动评分擅长处理结构化、可比较、结果可逆的判断,比如链接是否可达、字段是否缺失、更新时间是否过期。人工判断通常出现在三类项目上:语义质量(内容是否真正回答了访客的问题)、意图匹配(这个页面该不该承接这类需求)、风险与例外(某条规则在此处是否应当被突破)。
把这三类混在一张分数表里,就会出现“个别样本成立、规模化后失灵”的典型情况。假设你抽查了 20 个页面,人工判断与评分结论一致,于是把同一套评分推到全站。规模一上来,长尾页面、特殊栏目、历史遗留结构进入样本池,分数仍然稳定,但结论开始偏离人工判断。此时不要急着调权重,先确认分歧是否集中在上述三类项目上。
可执行的改法是给评分设定角色边界,并落成明确动作:
这个动作的结果会直接影响下一步:如果人工复核中大量项目结论与评分同向,说明评分适合承担分诊;如果分歧集中在某一类页面,说明需要为这类页面单独建规则,而不是继续放大评分覆盖面。
拿你手上的一份页面资料做小规模验证。先记录三项内容:评分给出的结论、人工读完后给出的结论、两者不一致时的具体原因。原因要写到可复用的粒度,例如“页面主题相关但缺少操作步骤”“标题匹配但正文答的是另一个问题”,而不是笼统写“评分不准”。
假设你处理 50 个样本,其中 35 个两者一致、15 个不一致,且不一致的 15 个里有 10 个属于“正文答的是另一个问题”。这组数据说明:评分可以继续用于初筛,但不能在语义匹配这一层直接决定处置。下一步应把“语义匹配”拆成独立的人工检查项,而不是提高整体阈值。
规模化之后,最容易被忽略的是“谁在什么条件下推翻了评分”。站点管理工具里如果只记录最终状态,不记录推翻原因,后续就无法判断是规则失效还是执行偏差。建议在流程中固定两个字段:人工结论、推翻理由。理由用有限选项,例如“语义不符”“意图错位”“风险例外”“数据缺失”,避免自由文本难以统计。
这样做的实际收益是:当某个理由反复出现,你可以针对它建一条新规则或新的人工检查点,而不是整体否定自动评分。反过来,如果长期没有推翻记录,也要警惕人工复核是否流于形式,而不是直接认定评分已经足够准确。
扩大适用范围需要同时满足两个条件:一是该类项目在多次人工复核中结论稳定,二是推翻理由可以被明确归因到已定义的类别。只满足第一条,说明样本还不够分散;只满足第二条,说明规则可能过细、难以维护。
不满足时,保留人工判断不是效率损失,而是防止错误结论被批量复制。你可以先扩大抽检比例、缩小自动执行范围,观察分歧是否收敛,再决定是否放宽。具体到你所用的站点管理工具,哪些字段可配置、触发线如何设置、是否支持记录推翻理由,需要以工具内的实际说明和当前版本为准,不要沿用旧教程里的界面描述。