评估 LLM 标注可靠性：人口偏见与模型解释

摘要

理解标注变异性的来源对开发公平的 NLP 系统至关重要，尤其在性别歧视检测等涉及人口偏见的问题中。本研究通过广义线性混合模型量化标注者人口特征与文本内容对标注决策的影响，发现人口因素仅占方差变异的 8%，文本内容仍是主导因素。进一步评估生成式 AI（GenAI）模型作为标注工具的可靠性，发现简单的人口角色提示往往无法提升甚至可能降低其与人类判断的一致性。可解释 AI（XAI）技术显示，模型预测主要依赖与性别歧视相关的内容特征词，而非人口特征关联词。

核心发现

1. 人口特征影响有限：标注者性别、年龄等人口属性虽具有统计显著性，但对标注变异的解释力较弱（8%），文本内容解释力超 90%。

2. 生成式 AI 标注评估：

3. 为 GenAI 模型添加人口角色提示（如"以年轻女性视角标注"）未显著提升标注质量，部分场景下性能反而下降。

4. 基线模型（无角色提示）在多数任务中表现更稳定。

5. 可解释性分析：

6. 模型注意力机制集中于显性性别歧视词汇（如"厨房"、"柔弱"），而非隐含人口特征的词汇（如人名、地域）。

7. LIME 和 SHAP 等 XAI 工具验证了模型决策的内容驱动特性。

方法论

• 数据集：包含 15,000 条社交媒体文本，由 1,200 名标注者进行多维度标注（含人口属性元数据）。

• 统计模型：采用广义线性混合模型（GLMM）分解方差成分。

• GenAI 实验：对比 GPT-4、Claude 等模型在基础提示与角色提示下的 F1 分数、一致性系数。

实践建议

• 标注协议优化：建议优先控制文本内容歧义性，而非过度依赖人口平衡标注团队。

• 模型公平性：通过内容驱动的解释方法（如关键词过滤）比模拟人口角色更能提升系统公平性。

更多精彩内容 请关注我的个人公众号 公众号（办公 AI 智能小助手）公众号二维码

办公AI智能小助手