一句话结论
EPSBench 把季度每股收益预测拆成可引用的利润表驱动项,并用同一会计计算器把不同模型的假设压到同一口径;在 149 个公司-季度、86 家美国公司的评测中,六个模型相对同日分析师共识没有更低误差,名义 80% 区间的实际覆盖只有 37–70%。来源见 arXiv 摘要 与 ar5iv 全文。
方法要点
任务链路不是让模型直接报 EPS,而是让它先读固定集合的监管文件、财报电话会记录和新闻,再估计公司特定的利润表驱动项,并要求给出引用证据。随后,共享会计计算器把这些驱动项换算成美国公认会计准则下的稀释每股收益,使不同模型的假设能在同一会计口径下比较。
评测时,六个模型跑在同一套框架里,指标包括点预测误差,对比同日分析师共识;还包括预测区间是否达到名义覆盖。作者还用驱动项记录做误差归因,发现模型间大部分误差差距来自营业利润估计。这一设计的关键在于把“预测数字”变成“可审计的假设”。
样本 = EPSBench 中的一个公司-季度
证据 = 读取(监管文件, 财报电话会记录, 新闻)
驱动项 = 智能体.估计利润表驱动项(证据, 要求引用=True)
每股收益 = 共享会计计算器.换算为GAAP稀释每股收益(驱动项)
点误差 = 与同日分析师共识做配对比较(每股收益)
区间命中 = 下界 <= 实际每股收益 <= 上界
记录(驱动项, 引用, 点误差, 区间命中)
关键数字
| 数据集 | 指标 | 对比基线 | 提升幅度 |
|---|---|---|---|
| EPSBench:149 个公司-季度,86 家美国公司 | 点预测误差 | 同日分析师共识 | 无;三款模型无可检测的配对差异,三款误差更高 |
| 同上 | 名义 80% 预测区间覆盖 | 名义覆盖率 80% | 实际覆盖 37–70%,低于名义值 |
| 同上 | 驱动项误差归因 | 模型间比较 | 误差差距主要来自营业利润估计 |
作者报告,三款模型与共识的点预测误差没有可检测的配对差异,另外三款误差更高。六个模型的名义 80% 区间中,实际包含报告 EPS 的比例只有 37–70%,且多数未命中是实际值高于上界,原因是预测偏低。也就是说,区间校准不足;误差归因又指向营业利润估计。
局限与前提
- 数据边界:149 个公司-季度、86 家美国公司,证据集合固定;不是实时新闻流,也不是跨市场样本。
- 基线边界:点预测误差相对同日分析师共识,不是相对绝对真值;共识本身是基线。
- 区间边界:覆盖只在返回区间的运行中统计;37–70% 低于名义 80%。多数漏报为实际值高于上界,说明整体预测偏低,不能把区间当安全边界。
- 归因边界:摘要只把主要误差差距归到营业利润估计,其他驱动项未展开;复用时要保留驱动项与引用记录。
- 开放边界:现有信息源未列出代码、权重或完整复现包,不能假定可直接下载。
能不能用
按目前公开信息,不能确认 EPSBench 有开源代码与权重;arXiv 摘要 与 ar5iv 全文 没有给出代码链接。若要在本地复现,至少要准备:149 个公司-季度的固定监管文件、电话会记录与新闻;公司特定利润表驱动项及引用标注;共享会计计算器;同日分析师共识;六模型统一评测框架;以及保留预测区间的运行日志。缺了日期对齐或会计口径,点误差和覆盖都会失真。
适用判断:如果目标是评测智能体能否把证据落到利润表科目、并检查区间校准,这个基准值得跟;如果目标是直接做交易信号,当前结果不支持——六个模型没有跑赢共识,区间覆盖也不足。工程上先把证据引用、驱动项记录和会计计算器做扎实,再谈模型替换。