跳到正文
Hacker News· landonxi·· 5 天前精选AI 评分58

DAYJOB: Tax 评测 50 项专业税务任务,Claude Sonnet 5.5 领先

Dayjob: Tax – evaluating AI agents on 50 professional tax assignments

AI 导读

Surge AI 推出 DAYJOB: Tax,以 50 个专业税务环境评测 AI 智能体识别遗漏事项、处理冲突证据并完成交付物的能力。任务覆盖八类税务工作,要求产出报税表、工作底稿、技术复核或客户建议,工作区共含 1,789 个文件。

推荐理由

该评测以 50 个专业税务工作流检验智能体能否主动发现客户遗漏的关键问题,其低通过率可用于观察模型专业判断与任务交付之间的差距。

正文 · AI 翻译

Anna 原本打算出售她的公寓。她已于 2024 年 8 月搬出,想知道在 2026 年 10 月还是 2027 年 1 月完成交易,哪种选择对税务更有利。

一个 AI 智能体审查了这两个选项,并正确得出结论:无论选择哪个日期,都符合居住要求,可享受最高 $250,000 的收益排除优惠。

但它遗漏了一个重要期限。

根据通常规则,房主在出售房产前,必须在五年中至少两年居住于该房产,才有资格获得这项排除。由于 Anna 于 2024 年 8 月搬出,她大约从 2027 年 8 月底起就不再符合该要求。如果她的出售被推迟到 2027 年 8 月之后,就可能丧失资格。

在五次尝试中,Astra 从未识别出这一期限。Opus 在五次尝试中均识别出了这一期限。

该智能体正确评估了拟议日期,但其建议未能让 Anna 意识到一个可能影响重大财务决策的期限。即使客户不知道该问什么,税务顾问也应识别出具有重大影响的问题。

DAYJOB: Tax 是 Surge AI 的 DAYJOB 基准测试系列最新加入的成员,我们借助它测试的正是这类专业判断能力。

推出 DAYJOB: Tax

DAYJOB 评估 AI 智能体执行专业税务任务的能力;这些任务需要专门专业知识、复杂材料,以及初始指令未完全说明的决策。我们此前发布的版本涵盖医疗健康和金融领域。DAYJOB: Tax 将这项工作扩展到税务申报、合规和咨询服务。

该基准包含 50 个环境,覆盖税务实务的八个领域。智能体会收到客户请求和佐证记录,然后生成纳税申报表、工作底稿、技术审查结果或客户建议。

这些任务在考察税务知识、计算、检索和指令遵循能力的同时,也考验专业判断。智能体必须决定哪些事项值得调查、解决相互冲突的证据、识别信息何时不足,并将这些判断落实到最终成果中。

结果:排行榜与帕累托前沿

Claude Sonnet 5.5 以 10.8% 的通过率领先,在 DAYJOB: Tax 排行榜中,其后是 Claude Fable 5.1(9.6%)和 Claude Opus 5.5(9.2%)。

DAYJOB: Tax leaderboard

我们报告的是在 95% 评分标准阈值下的 pass@1。一次尝试只有在满足任务至少 95% 的标准时才算通过;这些标准评估计算、支持性证据、重大影响问题以及最终交付成果。

性能与成本

我们还将模型性能与每次试验的平均成本进行了比较。

Claude Sonnet 5.5 和 Opus 5.5 处于所测得帕累托前沿的高性能端。

专业税务工作的广度

DAYJOB: Tax 涵盖八个领域,每个领域都需要不同的规则、记录和专业知识:

  • 个人及家庭税务
  • 小企业税务
  • 合伙企业
  • 不动产与投资
  • 遗产、赠与与信托
  • 国际税务
  • 企业交易
  • 税务审查与争议

有些任务要求提供完整的申报文件包和配套工作底稿。另一些任务要求智能体调查交易、复核以往申报,或就客户尚未作出的决策提供建议。

任务中包含哪些内容?

该基准测试包含 1,789 个工作区文件,每项任务的文件数中位数为 30,最多达 123 个。其中包括 1,487 份 PDF、117 个 Excel 工作簿、38 份 Word 文档,以及其他电子邮件、图片、CSV、JSON 记录和文本文件。

这些工作区包含已归档和草拟的纳税申报表、K-1、W-2、IRS 通知、总账、工资记录、合同和往来函件。它们还包含税务专业人士日常处理的标准化程度较低的证据材料。

其中一项任务包含一张购买用于转售商品的手写收据的照片。智能体必须读出商品说明和金额,将其与支出记录核对,并确定这些采购如何影响库存和销货成本。

Photograph of a handwritten receipt for merchandise purchased for resale, from a DAYJOB: Tax workspace

另一项任务涉及一家工业筒仓服务公司,其客户以为这家公司仅在阿拉巴马州经营。但其现场调度日志显示,作业团队曾在五个州工作。作业地点、团队人数和现场天数均为确定该公司跨州税务义务提供证据。

Field dispatch log from a DAYJOB: Tax workspace

其他环境也同样多样。其中一项任务涉及一个跨境家庭,需要将其在波兰的就业和财产记录与加密货币交易所导出数据、钱包历史记录及历史购买批次进行核对。

由税务专家创建并审核

DAYJOB 任务以现实世界中的专业工作流程为起点。税务专家将这些情境转化为逼真的任务,并制定配套记录、预期结果和评分标准。每项任务都要经过三层专家审核,以检验其正确性、完整性和可解性。

税务专家具备企业税务、合伙企业、个人申报、信托和跨州合规等方面的经验。他们的专业背景包括:

  • 企业与私募股权税务:一名在 PwC、Deloitte 和 Exxon 拥有超过 10 年经验的税务律师,业务涵盖税务筹划、税务合规、审计和税务争议。
  • 合伙企业与公司税务:一名 Baker Tilly 税务总监,曾任职于 PwC、Moss Adams 和 Windes,专长于复杂的合伙企业税务分配、合并企业纳税申报、REITs 以及高净值客户服务。
  • 房地产与个人税务:一名曾在 Deloitte 和 EY 任职的税务专业人士,专长于房地产合伙企业、个人税务和信托。

一项建立在未经核实假设之上的退休安排

一对正在分开的伴侣向 AI 智能体询问如何分割各自的 Roth IRA 和 401(k)。Opus 5.5 告诉他们两人在法律上并未结婚,并建议保持账户独立,同时通过现金支付来平衡余额。

其中一条回复开头写道:

你们在法律上并未结婚,因此若分割任一账户,都会触发税款和罚款。

但这对伴侣自己的记录使这一结论受到质疑。尽管他们现居佛罗里达州,而该州通常不承认新建立的普通法婚姻,但两人此前曾共同居住于得克萨斯州,并在科罗拉多州举行了仪式。得克萨斯州在某些条件下承认非正式婚姻,而在其他地方确立的有效婚姻在佛罗里达州仍可能有效。

这一区别可能改变分割其退休账户所产生的税务后果。

五次尝试中,Opus 始终基于夫妻未婚这一假设给出建议,即便它承认存在不确定性。Astra 在五次尝试中的四次都意识到需要核实二人的婚姻状况。其中一次回复建议:

我们首先需要确认您的法定婚姻状况。

客户询问这些账户应如何分配。智能体在建议行动方案之前,需要确定二人是否已婚。本应促使智能体展开调查的证据已经在档案中。

DAYJOB: Tax 的适用场景

大多数现有税务基准测试都从明确的问题开始:需要回答的法律问题、需要计算的纳税申报表,或需要收集的缺失纳税人信息。这些评测衡量的是重要能力,但税务专业人士的大部分工作都涉及弄清楚问题究竟是什么。客户提供的说明并不完整,记录中包含相互矛盾的证据,而重大问题可能根本不会出现在最初请求中。

DAYJOB 测试智能体能否承担这种端到端的责任,包括识别客户忽略的问题、评估相互矛盾的证据,以及首先决定需要采取哪些行动。

TaxBench

模型能否回答棘手的税务问题?

TaxBench 评估多个专业领域的 114 个税务问题,每道题都有明确的问题定义和评分标准。

DAYJOB 还会询问客户是否问对了问题。 Anna 想比较出售公寓的两个日期。这两个日期都满足享受税收排除待遇的居住要求,但当这一资格可能到期时,智能体是否会提醒她?

TaxCalcBench

模型能否计算出准确的纳税申报表?

TaxCalcBench 使用真实的税务文件和纳税人情景,将纳税申报表的准确性与预期的申报数值进行比对评估。

DAYJOB 还会询问底层记录是否确实支持相应的税务处理。 某工作室的分类账中提到一张随附收据,但这张收据不见了。智能体是会指出证据缺失,还是错误地把这项报销视为已经核实?

TaxLab

智能体能否收集缺失信息并正确完成申报?

TaxLab 测试智能体能否向模拟纳税人提问、获取缺失信息,并完成一份联邦个人所得税申报表。

DAYJOB 将这种责任扩展到更广泛的税务专业领域。 交付成果可能是合伙企业亏损分析、遗产申报表、对有争议税务立场的审查,或一封策略建议函。

核心区别在于仍由智能体承担多少责任。 DAYJOB 评估智能体能否发现重大问题、运用专业判断,并将调查结果贯彻到最终完成的申报、审查或建议中。

DAYJOB: Tax 衡量什么

DAYJOB 测试 AI 智能体能否从头到尾对一项专业任务负责。这意味着要梳理杂乱的记录、识别客户从未提出的问题、在信息不完整的情况下作出合理判断,并交付符合专业标准的工作成果。

结果表明,对前沿模型而言,这仍然十分困难。即使智能体能够完成各个单独步骤,运用专业判断并可靠地执行现实世界中的税务工作流程,仍是难以企及的。

智能体尚未通过审计。

包含我们评测的所有模型的完整排行榜位于 DAYJOB:税务基准测试页面。

如需了解更多信息或申请访问完整基准测试,请联系 benchmarks@surgehq.ai。

来源:Hacker News · surgehq.ai