GPT-OSS
深度解析

提纲

gpt-oss 系列被低估了

过去的 AI 技术栈

Chat Bot
简单对话机器人
Completion API
基础文本生成
ChatML 格式
简单消息格式
指令模型
Follow Instructions
→ 技术演进

现在的 AI 技术栈

AI Agent
智能决策与执行
Response API
结构化响应接口
Harmony 格式
多通道架构
思维模型 (GPT-OSS)
Reasoning & Planning

GPT-OSS 是 Agent 时代的第一个开源技术栈

Harmony 格式

体验新一代对话格式的多通道架构

ChatML(传统)

标记与结构
使用 <|im_start|> / <|im_end|>,单一消息体;边界清晰但语义单一
通道
无显式多通道;思考、工具交互、最终回复混杂在同一通道
工具调用
常以内嵌 JSON / function_call 或 tool 角色承载,结构松散、校验难
路由与约束
缺少 to= 精确路由与输出约束;难以强制 JSON/Schema 合规
→ 核心差异

Harmony(现代)

标记与结构
<|start|> / <|end|> + <|message|> 明确消息体,语义更细分
通道
analysis / commentary / final 多通道:可观测、可调试、可策略化
工具调用
commentary 通道 + to=functions.xx + <|constrain|> json + <|call|>;返回 to=assistant
路由与约束
to= 精确路由,<|constrain|> 强约束输出;<|return|> 明确流程终点

Harmony 不只是“新提示格式”,而是面向 Agent 的多通道协议:更可观测、更易验证、更便于编排

自研 AgentML 渲染器(Harmony 启发)

批判式学习 · 不绑定官方实现 · 构建可验证的多通道协议
1) 格式即架构:以通道解耦职责
通过 analysis / commentary / final 多通道,将 思考、工具交互 与 用户输出 解耦;协议清晰,可观测、可编排。
2) 渲染与分词解耦:保持可替换
自研 AST/Renderer,不绑定官方渲染器与 Tokenizer;以 方言适配 兼容 Harmony/ChatML,兼顾跨模型与长期演进。
3) 精准路由与强约束:降低错误面
用 to= 精准路由工具/系统,用 constrain json 强约束输出遵循 Schema,减少解析错误与粘合代码。
4) 有状态与可观测:可回放的轨迹
为各通道输出统一事件流,形成 有状态、可调试、可回放的 Execution Trace,助力定位与优化策略。
5) 工具编排 Runtime:幂等与重试
在 commentary 执行 <|call|>,返回强制 to=assistant;内建 幂等/重试 策略,保障稳定与可恢复。
6) 兼容与桥接:数据与生态复用
保留 ChatML ↔ AgentML 互转与 Tokenizer 边界 Normalization,平滑复用现有数据与工具链。

对 AI 开发者的意义

现状:屎上雕花

Fake Agent
基于无状态服务的伪Agent
Completion API
无状态文本补全接口
指令模型
单次响应,无深度思考
→ 真正演进

未来:真正智能

Real Agent
基于有状态服务的真Agent
Advanced API + Stateful
结构化响应 + 有状态服务
思维模型 (GPT-OSS)
多轮思考 + 工具调用优化

不仅是 API 设计的改进,更是架构范式的转变

状态(stateful context) : 对话记录 、工具、 记忆 、 MCP...

我们的思考

不是要完全投入 OpenAI 的技术栈

而是要思考和设计 适合 Agent 时代的 API 和底层模型

gpt-oss 是值得我们去参考和研究的模型

观点总结

1. 测评时机很重要

在各大框架没有完美支持 gpt-oss 前不要测评,也不要有结论

新格式需要生态完善,过早评判可能错失机会

2. Agent 时代的开源技术栈

GPT OSS + Harmony 是一个 Agent 时代的开源技术栈,更适合做方向探索,学习用

不是为了直接部署,而是为了理解未来架构

3. 格式即架构

关键在于理解 格式即架构 的深层含义

Harmony 不只是一种数据格式,更是一种思维方式

感谢观看

本次分享围绕 GPT-OSS 与 Harmony 格式,强调“格式即架构”:从 ChatML 的消息格式,演进到多通道架构与有状态服务,真正服务于 Agent 时代。

以更清晰的接口、更简洁的约束、更可观测的过程,构建有用的智能系统。

PPT 目录
作者:兮尘 · 主页: https://linxueyuan.online/