GPT-OSS
深度解析

提纲

gpt-oss 系列被低估了

过去的 AI 技术栈

Chat Bot
简单对话机器人
Completion API
基础文本生成
ChatML 格式
简单消息格式
指令模型
Follow Instructions
技术演进

现在的 AI 技术栈

AI Agent
智能决策与执行
Response API
结构化响应接口
Harmony 格式
多通道架构
思维模型 (GPT-OSS)
Reasoning & Planning

GPT-OSS 是 Agent 时代的第一个开源技术栈

Harmony 格式

体验新一代对话格式的多通道架构

ChatML(传统)

标记与结构
使用 <|im_start|> / <|im_end|>,单一消息体;边界清晰但语义单一
通道
无显式多通道;思考、工具交互、最终回复混杂在同一通道
工具调用
常以内嵌 JSON / function_call 或 tool 角色承载,结构松散、校验难
路由与约束
缺少 to= 精确路由与输出约束;难以强制 JSON/Schema 合规
核心差异

Harmony(现代)

标记与结构
<|start|> / <|end|> + <|message|> 明确消息体,语义更细分
通道
analysis / commentary / final 多通道:可观测、可调试、可策略化
工具调用
commentary 通道 + to=functions.xx + <|constrain|> json + <|call|>;返回 to=assistant
路由与约束
to= 精确路由,<|constrain|> 强约束输出;<|return|> 明确流程终点

Harmony 不只是“新提示格式”,而是面向 Agent 的多通道协议:更可观测、更易验证、更便于编排

自研 AgentML 渲染器(Harmony 启发)

批判式学习 · 不绑定官方实现 · 构建可验证的多通道协议
1) 格式即架构:以通道解耦职责
通过 analysis / commentary / final 多通道,将 思考工具交互用户输出 解耦;协议清晰,可观测、可编排。
2) 渲染与分词解耦:保持可替换
自研 AST/Renderer,不绑定官方渲染器与 Tokenizer;以 方言适配 兼容 Harmony/ChatML,兼顾跨模型与长期演进。
3) 精准路由与强约束:降低错误面
to= 精准路由工具/系统,用 constrain json 强约束输出遵循 Schema,减少解析错误与粘合代码。
4) 有状态与可观测:可回放的轨迹
为各通道输出统一事件流,形成 有状态、可调试、可回放的 Execution Trace,助力定位与优化策略。
5) 工具编排 Runtime:幂等与重试
commentary 执行 <|call|>,返回强制 to=assistant;内建 幂等/重试 策略,保障稳定与可恢复。
6) 兼容与桥接:数据与生态复用
保留 ChatML ↔ AgentML 互转与 Tokenizer 边界 Normalization,平滑复用现有数据与工具链。

对 AI 开发者的意义

现状:屎上雕花

Fake Agent
基于无状态服务的伪Agent
Completion API
无状态文本补全接口
指令模型
单次响应,无深度思考
真正演进

未来:真正智能

Real Agent
基于有状态服务的真Agent
Advanced API + Stateful
结构化响应 + 有状态服务
思维模型 (GPT-OSS)
多轮思考 + 工具调用优化

不仅是 API 设计的改进,更是架构范式的转变

状态(stateful context) : 对话记录 、工具、 记忆 、 MCP...

我们的思考

不是要完全投入 OpenAI 的技术栈

而是要思考和设计 适合 Agent 时代的 API 和底层模型

gpt-oss 是值得我们去参考和研究的模型

观点总结

1. 测评时机很重要

在各大框架没有完美支持 gpt-oss 前不要测评,也不要有结论

新格式需要生态完善,过早评判可能错失机会

2. Agent 时代的开源技术栈

GPT OSS + Harmony 是一个 Agent 时代的开源技术栈,更适合做方向探索,学习用

不是为了直接部署,而是为了理解未来架构

3. 格式即架构

关键在于理解 格式即架构 的深层含义

Harmony 不只是一种数据格式,更是一种思维方式

感谢观看

本次分享围绕 GPT-OSS 与 Harmony 格式,强调“格式即架构”:从 ChatML 的消息格式,演进到多通道架构与有状态服务,真正服务于 Agent 时代。

以更清晰的接口、更简洁的约束、更可观测的过程,构建有用的智能系统。

PPT 目录
作者:兮尘 · 主页: https://linxueyuan.online/