原始來源venturebeat.com
摘要
山东大学一项研究发现,围绕编码模型日益复杂的 harness(系统提示、工具与上下文规则)并未带来可量测的准确率提升,反而可能让每项任务成本增加三倍。研究以三套生产环境 harness(Claude Code、OpenCode、mini-SWE-agent)搭配五个模型,在 447 项任务上测试,成功率差距在五个百分点内;在最难的 45 项任务上,harness 选择翻转结果的比例约 13%,与同一设定重跑的变动幅度相近。同一模型下,不同 harness 的每项任务成本最多相差三倍。结果呼应先前的 HarnessTax 发现,建议企业团队以任务成功率与成本效率为优先,而非追逐更复杂的 har…
重點整理
- 团队应建立以任务成功率与每任务成本为指标的内部评测,避免只依赖厂商基准就扩大部署。
- 正在采购或标准化编码代理的团队,可用每任务总成本而非广告上的基准分数来做决策。
編輯說明
本頁是 Code & Chain 對公開來源的編輯摘要,可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準;內容不構成投資、法律或稅務建議。