• 使用成对比较处理主观性评估: 不要要求模型在1–10的尺度上为某个回复评分(直接打分法),而是给它两个回复,让它选出更好的那个。这能显著降低方差,并与人类偏好更加吻合。

  • 强制使用思维链(CoT): 始终提示评估者在输出最终评分或决定之前,先逐步解释其推理过程。这能大幅提升准确率。

  • 使用LLM面板(PoLL): 依赖单个大模型(如GPT-4)成本高昂,且可能引入”模型内偏差”。相反,集成三个较小的、多样化的模型,让它们对最佳回复进行投票。这样更便宜,而且往往更准确。

  • 告诉智能模型不要过度思考: 对于简单任务,例如检查生成的答案是否与标准答案匹配,大型模型往往过度分析或引入外部知识。用”不要过度思考”这类提示词明确约束它们,能让其保持在正轨上。

  • 在评估标准上做到极度具体: 像”评估质量”这样的宽泛指令会导致糟糕的结果。将评估拆解为严格、细粒度的标准(例如”回复中是否包含冒犯性语言?“或”它是否严格遵循了JSON格式?”)。每个提示词只评估一个维度。

  • 使用交叉审查验证事实: 如果需要检查事实准确性,设置一个多轮提示词流程,让”审查员”LLM向”受审者”LLM提出追问,以发现不一致之处。