产品发布-模型只是1/3:一台离线设备里,跑着怎样的“任务执行引擎”?
过去两年,行业谈AI 编程时,注意力长期停在模型本身:参数规模、上下文长度、榜单得分。但模型能力只是起点,任务完成率才是终点。一个模型能生成看似合理的代码,不代表它能稳定走完需求理解、仓库探索、代码修改、测试执行、错误恢复与结果验收——任一环节失效,局部正确的代码就会变成整体失败的任务。

基于这一判断,我们研发的“伯乐大模型”,不是堆参数的单体模型,而是优势互补的专家模型组合(总参数 ≤100B),它与组件化 Agent 框架、Skill 工程方法库共同构成“任务执行引擎”,让模型能力从“会写”走向“能完成”。在这套引擎里,模型能力只占三分之一——另外三分之一来自 Agent 对行动的组织,三分之一来自 Skill 方法的注入。

一、伯乐大模型:能力互补,而非堆参数

任务执行引擎的模型层——伯乐大模型——是系统级专家模型组合,核心是建立一张“模型能力地图”:哪个模型更擅长需求拆解与规划,哪个更擅长跨文件代码生成,哪个对工具调用格式更稳定,哪个更适合发现补丁缺陷。
系统据此做两种调度。任务级选择:任务开始前,按语言、仓库类型、复杂度、变更范围等特征,选更适合担任主执行者的专家模型。阶段级切换:同一任务内,由推理模型负责拆解方案,代码模型完成修改,审查模型检查补丁与测试结果。
我们不再追求“让一个模型在每个维度都成为第一”,而是追求让每一个模型在它最擅长的位置发挥作用,并通过系统协同补齐彼此短板。

二、组件化Agent:把能力组织成可验证的行动

模型决定“能做什么”,Agent 解决“按什么流程做、如何使用环境、怎样判断完成”,系统则按任务特征决定“由谁来做”。我们的 Agent 框架采用组件化设计,把核心能力拆成可插拔、可替换、可观测的组件:

  1. 任务规划器:将目标拆成可执行子任务,维护依赖与进度;
  2. 上下文管理器:控制哪些信息进入模型,避免窗口被无关内容占据;
  3. 模型适配器:统一上层调用接口,同时保留针对各专家模型的适配策略;
  4. ACI 工具层:把文件读取、代码检索、结构化编辑、Shell、测试、静态分析、LSP 等通过统一协议向 Agent 暴露;
  5. 执行循环:根据计划驱动模型行动,将工具结果写回共享状态;
  6. 验证与终止:根据测试、静态检查、补丁差异和验收条件判断是完成、重试还是切换模型或Skill。
  7. 组件化价值:某专家模型变化或某类任务暴露新短板时,可替换适配器、上下文策略、验证器或执行循环,而不必推翻整个系统。

三、Skill Hub:不是 Prompt 仓库,是工程方法库

Agent 框架定义“系统如何行动”,Skill 定义“这类问题该用什么方法行动”。Skill Hub 沉淀可复用的软件工程能力——需求澄清与任务拆解、仓库结构分析与代码检索、Bug 复现与根因定位、跨文件修改与影响面检查、测试验证、代码审查与风险识别、构建部署与运行环境排障等。
但Skill 不是一段更长的 Prompt。一个可用的 Skill 至少包含:触发条件、适用边界、输入输出契约、操作步骤、工具约束、验收标准、失败回退。这使 Skill 从“提示词片段”变成可执行、可评估、可迭代的工程资产。
同时,系统读取任务特征与模型画像,通过轻量级路由召回当前阶段所需的最小Skill 集合,避免把整个 Hub 塞进上下文造成膨胀与冲突。
最优Skill 集合 = 任务匹配度 + 模型适配度 + 历史有效性 − 规则冲突 − 上下文成本
这套机制的重点不是使用复杂路由模型,而是在较低成本下,让Skill 选择具有可解释性、稳定性和可持续迭代能力。

四、三者协同:系统有效性是乘法,不是加法

模型提供能力,Agent 组织行动,Skill 注入方法——这是三个执行层;验证闭环则贯穿三者、约束全程。三者不是简单相加,而是相互约束、相互增强。系统有效性更接近一个乘法关系:
系统有效性= 模型能力 × Agent 执行质量 × Skill 匹配质量 × 验证闭环
任一层偏弱都会拉低最终任务完成率;优化目标是在资源预算(时延、上下文、调用次数、算力)内提升整体乘积,而非无条件堆投入。以跨文件Bug 修复为例,系统会依次完成“建立任务画像—选择主模型与 Skill—Agent 组织探索—按阶段切换能力—验证失败后重新路由—形成可学习反馈”的闭环,让优化从“调 Prompt”转向“基于任务轨迹定位问题”。

五、便携式智力工厂:把任务执行引擎带到现场

图片
技术架构回答了“系统如何把任务做完”,但还有最后一个问题:这套系统应当出现在哪里?
若只存在云端,它只能处理“已上传的数据”,碰不到现场设备与代码,也绕不开出网、合规与延迟。若只是一台装本地 LLM 的笔记本,缺的就不是模型,而是把能力组织成可验证行动的 Agent 与 Skill 底座——结果是会聊天的模型,而非能把事做完的系统。
离线个人AI 助手(便携式智力工厂)给出的答案是:把整套任务执行引擎,以离线、私有、便携的形态,带到工作真正发生的地方。

  1. 离线私有化部署:模型权重与推理全在本机,代码与数据不出设备,把“任务执行引擎”关进一个物理不出门的盒子;
  2. 便携随身:单台工作站,办公室、家中、客户现场通用,系统随人走;
  3. 边缘算力:本地大模型实时推理,零网络RTT,交互实时;
  4. 一体闭环:开箱即用,免IT 集成、免立项,工程师拎着就能用;
  5. 全过程留痕与报告自动汇总:把每一次任务轨迹沉淀为可复用的组织资产。

这正是廉价“本地 LLM + 手工流程”难以复制的:后者能跑模型,却缺把能力组织成可验证行动的工程底座;而云端方案能跑同样的架构,却到不了现场、碰不到设备,数据出网还绕不开合规审查与传输延迟。

结语:模型决定可能性,系统决定完成度

大模型仍是能力基础,但参数规模不是唯一变量。模型决定可能性,Agent 决定行动组织,Skill 决定方法注入——三个执行层各占三分之一、缺一不可;当它们与验证闭环结合,一个总参数 ≤100B 的组合也能形成远超单次调用的系统能力。
而当任务执行引擎以离线、私有的形态装进便携式智力工厂,模型负责“能不能”,系统负责“做没做成”——AI 从“会写”落到“做完”。