据 Beating 监测,Zapier 与 Artificial Analysis 联合发布了 AutomationBench-AA,这是一个基于 Zapier 平台真实匿名数据的独立 SaaS 工作流自动化基准测试。该基准包含 657 个多步骤任务和 40 个模拟 SaaS 环境,包括 Gmail、Slack、Salesforce 和 Jira。
关键的是,该基准强制实施严格的合规护栏:任何违反预设企业业务规则的行为都会自动使最终任务得分归零。在初步评估中,所有模型因合规惩罚导致得分大幅下降。Claude Fable 5 完成了 73% 的任务,但最终得分仅为 48.6%;Gemini 3.5 Flash 和 GPT-5.5 分别完成了约 68% 和 67% 的任务,但得分分别为 42.6% 和 42.1%。开源模型 GLM-5.2 得分为 27.8%。