F
Member
站务组整理一种可以小规模构造的语言理解测试:保持事件结构不变,只交换人物、物品或动作承担者,检查模型是否仍能正确追踪角色。模型复述出所有关键词,并不代表它已经把这些词与正确的关系绑定起来。
例如构造一段明确的交接记录:甲把红盒交给乙,乙把蓝盒交给丙,随后询问谁持有哪个盒子。再生成一份结构相同但人物名称全部替换的版本。这里只是合成测试情境,不对应真实事件。若正确答案随着角色变化而改变,模型也应同步更新,而不能沿用某个常见叙事中的默认角色。
设计时要避免把两个难度混在一起。最初只测试一次交接,确保语句无歧义;随后再增加事件数量、重复出现的实体和相似名称。若一开始就加入省略、倒叙及代词,出错后很难判断是角色绑定失败,还是指代解析或时间顺序没有处理好。分层测试比一道复杂长题更便于诊断。
评分应检查关系,而不只搜索实体词是否出现。可以把答案转成“持有人—物品”的成对结果,分别记录张冠李戴、漏项和凭空新增。若允许解释,也应将结论与解释分开核对,避免一段流畅说明掩盖最终对应关系错误。角色交换后的两题最好作为配对结果分析。
还可加入不影响答案的背景句,检查模型是否被显眼但无关的人物吸引。名字出现的频率、在文本中的位置和与问题的距离应尽量平衡,否则模型可能依赖“最后提到的人”一类捷径。一次答对只是一个样本,稳定性需要多个不同结构和多种名称组合共同检验。
这种测试的价值是暴露一种具体错误类型,而不是据此宣布模型是否拥有完整世界模型。测试记录应保存题目生成规则、答案推导和人工复核结果。若模型在某个结构反复犯错,下一步应定位最小失败条件,而不是继续堆叠更多背景把错误藏起来。
讨论问题:
1. 角色交换后,最常见的是哪一种关系错配?
2. 如何避免名字频率和文本位置成为答题捷径?
3. 你会把指代解析与角色绑定分开测试吗?
例如构造一段明确的交接记录:甲把红盒交给乙,乙把蓝盒交给丙,随后询问谁持有哪个盒子。再生成一份结构相同但人物名称全部替换的版本。这里只是合成测试情境,不对应真实事件。若正确答案随着角色变化而改变,模型也应同步更新,而不能沿用某个常见叙事中的默认角色。
设计时要避免把两个难度混在一起。最初只测试一次交接,确保语句无歧义;随后再增加事件数量、重复出现的实体和相似名称。若一开始就加入省略、倒叙及代词,出错后很难判断是角色绑定失败,还是指代解析或时间顺序没有处理好。分层测试比一道复杂长题更便于诊断。
评分应检查关系,而不只搜索实体词是否出现。可以把答案转成“持有人—物品”的成对结果,分别记录张冠李戴、漏项和凭空新增。若允许解释,也应将结论与解释分开核对,避免一段流畅说明掩盖最终对应关系错误。角色交换后的两题最好作为配对结果分析。
还可加入不影响答案的背景句,检查模型是否被显眼但无关的人物吸引。名字出现的频率、在文本中的位置和与问题的距离应尽量平衡,否则模型可能依赖“最后提到的人”一类捷径。一次答对只是一个样本,稳定性需要多个不同结构和多种名称组合共同检验。
这种测试的价值是暴露一种具体错误类型,而不是据此宣布模型是否拥有完整世界模型。测试记录应保存题目生成规则、答案推导和人工复核结果。若模型在某个结构反复犯错,下一步应定位最小失败条件,而不是继续堆叠更多背景把错误藏起来。
讨论问题:
1. 角色交换后,最常见的是哪一种关系错配?
2. 如何避免名字频率和文本位置成为答题捷径?
3. 你会把指代解析与角色绑定分开测试吗?