Skip to content

Search-QA/Bamboogle/success_rate可能存在的问题 #7

Description

@xiaoxiao-zhi

在论文表 1 的 Search-QA 实验结果中,相较于 AgentOCR,Skill0 在 Bamboogle 子任务上的成功率呈现出异常偏高的现象(63.7 vs 24.0)。
通过对代码实现逻辑的分析可知,当前子任务成功率的计算方式为:先逐批次计算各子任务的单批次成功率,再对所有批次的成功率取算术平均值,作为该子任务的最终成功率。
常规的正确计算方式应为子任务总成功样本数 / 子任务总样本数;在多数场景下,两种计算方式的结果差异较小。但在代码设定的batch size=512配置下,追踪 Bamboogle 的批次划分结果可发现:该子任务共包含 125 条数据,会被拆分为两个批次 —— 一个批次含 124 条数据,另一个批次仅含 1 条数据。仅含 1 条数据的批次,其成功率只能取 0 或 1,对该类极端小批次直接取算术平均,会显著偏离真实值,最终导致计算出的成功率出现明显偏差。
由于该异常分片情形仅在该 batch size 配置下产生,因此想向作者确认,表 1 所展示的 Bamboogle 成功率指标是否存在上述计算带来的数值偏移。

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Fields

    No fields configured for issues without a type.

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions