Go开发者必知Eino中Message消息模型与流式StreamReader实战【免费下载链接】einoGo 语言编写的终极大型语言模型LLM应用开发框架强调简洁性、可扩展性、可靠性与有效性。项目地址: https://gitcode.com/CloudWeGo/eino在 Go 语言开发 LLM 应用时Eino框架的两大核心基石就是Message 消息模型和StreamReader 流式读取器前者统一了 system、user、assistant、tool 四类角色消息的表达后者让大模型的逐字流式输出像读一个迭代器一样简单。本文面向新手带你快速吃透 Eino 中这两个最常用 API 的设计与实战用法帮你少走弯路。一、为什么 Message 与流式是 LLM 应用的基本功 Eino 的底层 Schema 层定义了所有组件通信的数据结构其中最核心的两个就是Message和StreamReaderMessage 消息模型一次对话 一串带角色的消息。无论是 ChatModel 的输入还是输出都是[]*schema.MessageStreamReader 流式读取器大模型是边想边说的流式输出能显著降低用户等待感而 Eino 把流式处理抽象成了一个极简的Recv()循环。这两者定义在 schema/message.go 与 schema/stream.go 中是整个框架被引用最多的类型。二、Message 消息模型速成4 种角色一次讲清2.1 四种角色Role 决定消息的身份Eino 用Role字段区分消息身份共四种角色常量含义systemschema.System系统提示词设定模型人设与规则userschema.User用户的提问或输入assistantschema.Assistant模型的回答toolschema.Tool工具执行结果回填给模型对应源码见 schema/message.go#L92-L104。每个角色都提供了构造函数创建消息非常简单msgs : []*schema.Message{ schema.SystemMessage(你是一个有帮助的助手), schema.UserMessage(用一句话介绍 Eino), } // 工具结果消息第二个参数是 tool_call_id schema.ToolMessage({weather: sunny}, call_abc123)Message结构体的完整字段定义在 schema/message.go#L249-L269。2.2 不止文本多模态内容与工具调用真实场景中消息往往不止纯文本Eino 的Message结构体原生覆盖了三类扩展多模态内容MultiContent一条消息可同时携带文本、图片、音频、视频、文件等多种ChatMessagePart天然支持多模态对话工具调用ToolCallsassistant 消息可以携带多个ToolCall含ID、Function.Name、Function.Arguments这是 ReAct Agent、Tool Call 工作流的基石响应元信息ResponseMeta记录FinishReason为什么停止生成和TokenUsagetoken 消耗便于统计成本。调试时调用msg.String()即可打印出可读的消息摘要比如user: hello world排查问题非常顺手。三、StreamReader 流式输出实战 3.1 流式是如何流转的Eino 为流式数据定义了 4 种调用范式Invoke / Stream / Collect / Transform并保证组件间自动适配对开发者而言最常用的是Stream范式输入普通消息列表返回一个*schema.StreamReader[*schema.Message]。3.2 从 ChatModel 获取流三步走ChatModel 接口 定义了两种调用方式Generate拿完整回复Stream拿流式回复// Stream 返回一个 StreamReader而非完整消息 stream, err : model.Stream(ctx, []*schema.Message{ schema.SystemMessage(你是一个有帮助的助手), schema.UserMessage(介绍一下 Eino 框架), }) if err ! nil { return err } defer stream.Close() // ⚠️ 务必记得关闭3.3 核心读取循环Recv io.EOFStreamReader的用法只有 3 个要素Recv()取块、io.EOF判结束、Close()防泄漏。标准读法如下for { msg, err : stream.Recv() if errors.Is(err, io.EOF) { break // 流结束 } if err ! nil { return err } fmt.Print(msg.Content) // 逐字实时打印 }这个for Recv EOF的循环就是 Eino 中处理一切流式数据的统一姿势见 schema/stream.go#L156-L171。3.4 流的创建与加工4 个实用函数除了 ChatModel 返回的流Eino 还提供了 4 个流操作函数覆盖绝大多数场景函数作用典型用途schema.PipeT创建带缓冲的流返回 Writer Reader自己实现组件时手写流式输出schema.StreamReaderFromArray(arr)从数组构造流测试、模拟流式数据schema.StreamReaderWithConvert(sr, fn)对每个块做类型转换/过滤返回ErrNoValue可跳过该块如过滤空串schema.MergeStreamReaders(srs)合并多个流为一个并行分支结果汇合另外stream.Copy(n)可以把一条流分叉成 n 条独立子流每条都能完整读一遍——这是 Eino 在回调注入、并行节点场景下自动复制流的底层能力。四、避坑指南3 个高频错误忘记Close()流的 Reader 和 Writer 都要关闭否则可能引发 goroutine 泄漏。建议函数入口就写defer stream.Close()Close 之后还Recv()会收到ErrRecvAfterClosed错误检查调用时序即可定义于 schema/stream.go#L48-L50把流式块直接当完整消息用每个 chunk 只是片段若下游需要完整消息如 Tool 执行应用schema.ConcatMessages把整条流拼接回一条完整Message它会自动合并文本、工具调用参数和 token 统计源码见 schema/message.go#L571。五、总结概念一句话记忆源码位置Message 消息模型4 种角色 多模态 工具调用的统一载体schema/message.goStreamReader 流式读取器Recv()循环 io.EOF结束 Close()收尾schema/stream.goChatModel.Stream获取流式回复的入口components/model/interface.go掌握Eino 的 Message 消息模型与StreamReader 流式处理你就拿到了 Go 开发 LLM 应用的基本功。接下来可以进一步探索 Eino 的 Graph 编排与 ReAct Agent让消息与流在组件之间自动流转把复杂 AI 应用搭建得更轻松。【免费下载链接】einoGo 语言编写的终极大型语言模型LLM应用开发框架强调简洁性、可扩展性、可靠性与有效性。项目地址: https://gitcode.com/CloudWeGo/eino创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考