Harness 的计量与落地:2026-08-08 双星

2026-08-08 同日刊出的两篇文章,从两个相反方向把 Harness Engineering 推进了一格:AOE Tech LabsFloatboat 五项基准报告从产品侧计量 Harness,阿里云 AI 网关团队的 QoderWake “AI 网关高手”落地实践从组织侧落地 Harness。两文互为镜像,共同指向同一个判断:Agent 竞争的主战场正在从模型权重转向系统层(Harness)

一、产品侧计量:Floatboat 五项基准 + HLR

  • 单变量实验:同一 DeepSeek-V4-Flash(混合价 0.175/M)底座,跑 DeepSeek 官方 Harness 对 Claude Opus 4.8(10/M)一项没赢;接入 Floatboat Harness 后五项第三方基准(DeepSWE、Terminal Bench 2.1、Toolathlon、BrowseComp、AutomationBench)全胜——模型权重与单位成本不变,唯一变量是 Harness,价差 57.1 倍。
  • 程长规律:同底座 Harness 增量按任务程长单调递增 1.9% → 9.6% → 12.6% → 19.9% → 23.6%,无例外——短程考模型单次输出,长程考整个执行系统。
  • HLR(Harness Leverage Ratio):换 Harness 的分数增量 ÷ 升级到参照模型的公开分数跨度,>1 即”只换 Harness 的增量超过整段模型升级跨度”;DeepSWE 代入得 3.57×。规则先定、不许择优(公开全部候选参照区间 0.26×~1.42×)。
  • 意义:填补了 “Model + Harness = Agent” 等式中右半边长期无人报数的空白——此前 Vault 中 Harness 的收益只有零散案例(Nate B Jones 42%→78%、LangChain 52.8%→66.5%),这是第一份成体系的量化基准 + 计量指标。

二、组织侧落地:面向 IM 的桥接层 + 数字员工身份

  • 数字员工 = 完整工作身份“AI 网关高手”以真实账号 + 独立权限 + 审计接入 钉钉项目群,人机操作记录天然分离——Agent 成为组织内可追责的执行主体(见 数字员工)。
  • 面向 IM 的 Harness 桥接层七能力:新群自动接入、白名单权限分级、状态贴纸、群聊历史注入与会话隔离、完成后主动接力、多模态转换、复杂结果沉淀为钉钉文档——把 Harness 从”桌面单用户执行环境”扩展到”IM 多人协作通道”。
  • 资产复用:桌面 Agent 与数字员工共享同一套仓库事实与 Harness 资产——“Harness 工程同时喂养桌面 Agent 与数字员工”。
  • 动机判断:桌面 Agent 已解决个人研发效率,新瓶颈是多人协作中的信息转述、状态跟进与跨系统操作(一条 Aone 需求流经 13 个状态)。

三、共同命题:循环收敛

两文在深层共享同一个命题——Agent 的价值取决于循环能否收敛到交付标准,只是各自给出不同机制:

Floatboat(产品侧)阿里云(组织侧)
失败定义长程失败 = 循环与交付标准越走越远协作失败 = 信息转述/状态跟进断链
收敛机制Agent Loop 按轮对齐目标锚点(探索-执行-观察-修正-自我反思,主动识别结果与目标的差距)Bible.md 阶段门禁 + 验证规则(标准工作流/技能编排/异常处理,与 Identity.md/Persona.md 三模板分工)
主动性定义”真正的 Proactive 是持续逼近交付标准”,不是定时触发器完成后主动 @ 下一位负责人,结果不停在发起人对话框

这与 Loop Engineering 的”没有停止条件的 Loop = Token 焚烧炉”、长程 Agent 任务 的失败机制分解(交付标准模糊 + 逐轮漂移累积放大)构成三方互证。

四、结论与保留意见

  • 结论:竞争主战场从模型权重转向系统层——一周前的 范式收敛分析 判断”竞争从模型转向 Harness”,本双星分别从计量(有数字了)与落地(有组织了)两侧补上证据。价格叙事同步改写:“当成本低到不需要掂量,Agent 才会被真的用起来”(见 LLM 价格战)。
  • ⚠️ 矛盾 [2026-08-10] Floatboat 五项全胜与”贵旗舰 = 强 Agent”叙事冲突;全部数据为厂商自报、尚无第三方复现,HLR 为新提出指标而非行业标准(换参照系统数值会变)。采信时保持”可复算但未被复算”状态。

  • ⚠️ 矛盾 [2026-08-10] QoderWake 官方宣称原生 IM 支持,但企业落地仍需自建桥接层——原生能力与真实需求存在时差(厂商 2 天补齐是缓解变量)。这提示:组织侧 Harness 的桥接层可能是过渡资产,平台能力快速吸收后会被拆除。

  • 数据缺口:两项实践的 ROI 均未量化(Floatboat 完整环境分数待披露;“AI 网关高手”节省工时未量化);HLR 需第三方复算后才能成为采购依据。

关联