如何让 AI 代理服务快速跑起来:agent-service-toolkit 实战指南
发布时间:2026/10/17 2:22:43 锦皓数字建站

如何让 AI 代理服务快速跑起来agent-service-toolkit 实战指南【免费下载链接】agent-service-toolkitFull toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit项目地址: https://gitcode.com/GitHub_Trending/ag/agent-service-toolkitagent-service-toolkit 是一个基于 LangGraph、FastAPI 和 Streamlit 构建的完整 AI 代理服务工具包。它把 Agent 定义、后端服务、客户端和聊天界面做成了现成模板并内置语音交互与 RAG 知识库支持适合想快速搭建和部署 AI 代理服务的 Python 开发者。先说场景自己搭一个代理服务有多折腾你要写一个 AI 代理Agent服务配套的工作量一点不小LangGraph 图要自己画FastAPI 接口要自己写流式输出要自己处理前端页面要自己拼存储、凭据、部署脚本一个都不能少。每一步都要查文档、调坑业务逻辑还没写时间先花掉一半。agent-service-toolkit 的定位就是把这条链路做成一套可运行的模板你只需要替换成自己的业务逻辑。它是什么一套完整可运行的 AI 代理服务一句话定位它不是单个 Agent而是从 Agent 到用户界面的完整服务模板。包含代理层src/agents/ 内置 chatbot、research-assistant、rag-assistant、langgraph-supervisor、interrupt、github-mcp 等十余种现成 Agent服务层src/service/ 用 FastAPI 提供流式与非流式两种接口客户端src/client/ 的 AgentClient 可被你自己的任意应用调用聊天界面src/streamlit_app.py 带语音输入输出和历史会话侧边栏存储与设置src/memory/ 支持 SQLite、PostgreSQL、MongoDBsrc/core/ 负责 LLM 定义与全局配置功能走读三个值得细看的能力 多个代理共用一个服务它让你在一个服务里同时挂多个 Agent并通过 URL 路径分别调用。src/agents/agents.py 里的注册表决定了可用列表/agent_name/invoke和/agent_name/stream即可触达对应 Agent/info接口还会返回当前可用的代理和模型。你新加一个 Agent 时复制 research_assistant.py 改工具和提示词再注册进字典就行不用动服务层和界面。 FastAPI 服务的流式输出src/service/service.py 提供/invoke与/stream两类端点后者同时支持 token 级和 message 级两种流式粒度。前者适合前端逐字显示后者适合按完整消息渲染。对执行时间较长的代理任务来说用户可以实时看到进展而不是干等页面转圈。️ 带语音的聊天界面streamlit_app.py 是开箱即用的聊天界面侧边栏 Previous Chats 能列出该代理下的历史对话。语音能力集中在 src/voice/覆盖语音转文本STT和文本转语音TTS已接好 OpenAI 的 provider按同样结构替换成其他服务商也不费劲。上手指南克隆到跑起来只需 5 步克隆仓库git clone https://gitcode.com/GitHub_Trending/ag/agent-service-toolkit cd agent-service-toolkit准备密钥至少需要一个 LLM API key参照.env.example创建.env。安装依赖推荐 uvuv sync --frozen source .venv/bin/activate启动服务python src/run_service.py另开终端运行streamlit run src/streamlit_app.py。打开 http://localhost:8501 开始对话API 在 8080 端口。如果偏好 Docker写好.env后执行docker compose watch即可一次拉起 postgres、agent_service 和 streamlit_app 三个服务代码改动还会自动热更新。进阶与扩展跑通之后可深挖的方向在 docs/ 里都有对应文档。想换本地模型可以看 docs/Ollama.md 和 docs/Local_GPU_Deployment.md想做知识库助手看 docs/RAG_Assistant.mdAG-UI 协议、VertexAI 和文件式凭据管理也各有专篇。写在最后无论你是做聊天机器人、任务自动化还是带语音的助手agent-service-toolkit 都给了一个从 Agent 到界面的完整起点。更多配置与部署细节见 README.md 和 docs/。【免费下载链接】agent-service-toolkitFull toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit项目地址: https://gitcode.com/GitHub_Trending/ag/agent-service-toolkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
锦
锦皓数字建站
深耕本土企业品牌数字化升级,专注原创端正雅致商务官网,从视觉设计到稳定运维全程保驾护航。