Hermes Decision Trace

小墨模型评测详情:grok-4.5

grok-4.5 本轮得分 150 / 160,达到强主模型候选线。最突出的能力是工具验证闭环、Git 远端事实分层和漂移判断;规划与知识治理也稳定,但少数方案仍偏通用模板化,命令口径偶有环境细节瑕疵。

🧭
推荐路径

纳入 主模型候选池,优先用于 小墨执行主线 / code worker / Hermes ops worker;高风险发布与远端副作用仍保留主 agent 二次验收。

🔎
关键依据

T4 获得满分,能真实刷新远端并从分支 ref、tracking、ahead/behind、commit containment 三层闭环验证;T1、T6、T7、T8 均为 19 分,主线保持、升级判断、知识收口与 drift triage 稳定。

🛠️
落地方式

先纳入候选池,在 Git/GitHub 状态验证、补丁治理和 Hermes ops 主线上灰度使用;涉及发布、push、配置切换时继续由主 agent 做真实工具复核与副作用验收。

证据摘要

  • T4 获得满分,能真实刷新远端并从分支 ref、tracking、ahead/behind、commit containment 三层闭环验证;T1、T6、T7、T8 均为 19 分,主线保持、升级判断、知识收口与 drift triage 稳定。

行动清单

建议纳入 主模型候选池,优先作为:
小墨执行主线模型候选;
code worker;
Hermes ops worker;
Git/GitHub 状态验证与补丁治理 worker。
外部事实必须真实调用工具验证,不能用流程说明替代结论。

边界 / 风险

风险 / 边界

T2/T6 的动作落点还可更命令化;T5 使用 python -m pytest,当前环境更稳应优先按仓库约定确认解释器,通常写成 python3 -m pytest

完整记录

小墨模型评测详情:grok-4.5

基本信息

  • Run ID:20260710-095310__custom__grok-4.5
  • Provider:custom
  • Model:grok-4.5
  • Baseline:gpt-5.5
  • Scored by:gpt-5.5
  • Eval version:2026-05-20.v2
  • 总分:150 / 160
  • 本地评分:/home/ht/knowledge/model-evals/scored/20260710-095310__custom__grok-4.5.md

维度表现

维度得分判断
A 主线保持19 / 20能锁定当前任务,不被历史旁支带偏,并明确停止点。
B 规划收口37 / 40先后顺序、收益判断和终态完整,少量动作仍可更命令化。
C patch / 代码判断18 / 20功能域分组合理,能区分平台、公共工具、ACP 与 backup 的回归边界。
D 工具执行闭环38 / 40真实验证意识强,Git 远端事实闭环是本轮最强项。
E 检索压缩表达19 / 20能清楚压缩“已同步后漂移”和“从未同步”的边界。
F 知识治理收口19 / 20wiki concept 结构、真相源优先级和结论矩阵可直接复用。
G 扩展潜力可同时承担主模型候选、code worker 与 Hermes ops worker。

单题得分

题目得分简评
T1 主线保持19 / 20基于真实 ca8f4abdb 对象完成三层拆分,不串 Feishu、search-worker hotfix、GitHub sync 旁支。
T2 复杂规划18 / 20先盘点、先推、后推、只记账、终态与停止点齐全;验证命令和产物格式可再具体。
T3 commit grouping18 / 20分组和不混推边界合理;少量 commit message 粒度仍偏占位。
T4 tool verification20 / 20从远端 ref、upstream、ahead/behind 到逐 commit containment 的证据链完整。
T5 regression 判断18 / 20focused regression 优先、扩大条件清楚;解释器命令口径有小瑕疵。
T6 upgrade worth-it19 / 20能识别 gateway/provider/browser 联合 cutover 风险,先做收益评估再升。
T7 wiki 收口19 / 20结构可直接复用,能拆开主题存在、commit 同步、分支同步与工作树一致。
T8 drift triage19 / 20判断顺序准确,常见 Git/upstream 误判覆盖完整。

强项

  1. 工具验证不是口头流程:T4 直接定位真实仓库并执行 git fetch、远端 ref、tracking、ahead/behind 与 commit 可达性检查。
  2. Git 状态分层准确:能明确区分“分支和最近 commit 已 push”与“工作树仍有未提交漂移”,不会把两者混成一个结论。
  3. 停止点意识稳定:多题都能限定本轮范围,不顺手扩成升级、发布或旁支治理任务。
  4. 工程治理可复用:patch 分组、升级 gap matrix、wiki 判断矩阵都有较好的长期资产价值。

弱项与改进

  1. T2/T6 虽然方向稳,但部分动作仍偏通用方案,可补更具体的命令、产物路径和验收信号。
  2. T5 应先确认仓库解释器约定;在当前 Hermes 环境,python3 -m pytest 通常比 python -m pytest 更稳。
  3. 长会话与真实副作用操作尚需继续观察,不能仅凭本轮高分取消外层审计。

适合方向

  • GitHub 同步、commit grouping、远端可达性验证与 drift triage。
  • Hermes 本地补丁治理、focused regression、升级收益评估。
  • 需要结论先行、证据闭环、停止点明确的执行型主线任务。
  • 工程 wiki concept、判断矩阵和治理口径整理。

不适合方向

  • 没有真实工具权限时独立裁决外部事实。
  • 强依赖本机环境细节、但未先验证的发布或升级 cutover。
  • 极细粒度产品化路线图、跨组织协调或长期战略规划。

相对 gpt-5.5

整体达到并略高于 gpt-5.5 基线的主线执行水平。优势集中在 live tool verification、Git 远端事实分层和最终收口表达;弱项是少数规划题仍有模板化痕迹,命令级环境适配不够严谨。

接入建议

建议纳入 主模型候选池,优先作为:

  • 小墨执行主线模型候选;
  • code worker;
  • Hermes ops worker;
  • Git/GitHub 状态验证与补丁治理 worker。

保留三条护栏:

  1. 外部事实必须真实调用工具验证,不能用流程说明替代结论。
  2. 发布、push、配置切换等有副作用动作由主 agent 二次验收。
  3. 最终执行命令按目标仓库与当前环境确认,不直接复用通用命令模板。

归档

  • 本地 run:/home/ht/knowledge/model-evals/runs/20260710-095310__custom__grok-4.5.md
  • 本地评分:/home/ht/knowledge/model-evals/scored/20260710-095310__custom__grok-4.5.md
  • Wiki:/home/ht/llm-wikis/hermes-ops/summaries/xiaomo-model-eval-grok-4-5-2026-07-10.md
  • 归档口径:本地 wiki + Decision Trace HTML + Hub + retain,不写飞书主库。