简介这是一份面向政企单位IT运维人员及技术爱好者的DeepSeek内网离线部署指南聚焦无互联网环境下的AI知识库搭建突出国产化适配与安全加固。文档从离线资源准备、环境部署、数据导入到权限管理形成完整链路适配Windows Server、Linux及macOS多平台并兼顾主流CPU架构与硬件兼容性。其中包含模型与Ollama安装包的离线获取及导入方法也介绍了通过Cherry Studio简化数据馈送的新手友好型RAG实现并针对Ollama API、宝塔面板等给出访问控制与安全加固建议。包体为单个PDF文件大小5.28MB便于离线分发与查阅。资源已有1372人学习适合作为内网部署入门教学手册也能为有经验者提供权限管控与安全细节的参考。1. 内网部署 DeepSeek 离线知识库先解决资源闭环再谈数据投喂在政企内网里部署 DeepSeek 离线知识库最大的门槛往往不是模型效果而是资源闭环。外网教程默认你能pip install、能git clone、能随时从 Hugging Face 拉文件可内网环境连基础依赖都进不来模型动辄几十 GB摆渡介质、安装顺序、权限放行动不动就卡壳整个部署过程就像在黑匣子里摸索。这套离线部署方案把模型包、Ollama 安装包、Lobe Chat 镜像、RAG 依赖全部拆成可搬运的离线资源再落到 Windows Server、Linux 和国产化系统的具体操作上同时覆盖数据投喂和 API 未授权访问的安全加固。适合政企 IT 运维、想在内网搭私有知识库的工程师也适合第一次接触离线大模型部署的新手照着做。2. 离线资源准备模型包、Ollama 安装包与 Docker 镜像一次备齐离线部署最忌讳的是边装边找资源。我一般会先在联网机器上把资源按“模型层、引擎层、客户端层、RAG 依赖层”四类列一个清单逐项下载、校验、打包再统一摆渡进内网。中间任何一项缺失后面部署时都得重新走一遍摆渡流程费时费力还容易出错。2.1 模型离线包GGUF 格式选择与 sha256 校验DeepSeek 模型在内网里最常见的落地形态是 GGUF 格式它能直接用 Ollama 加载。获取来源主要有两个Hugging Face 上搜索deepseek找 GGUF 版本或者 ModelScope 搜索GGUF deepseekModelScope 的下载速度在境内通常更稳。如果机器能临时联网更省事的做法是在联网机器上先装好 Ollama直接用ollama run把模型拉下来再整体拷贝进内网# 联网机器上拉取指定尺寸模型7b 是参数规模可根据服务器内存选择 ollama run deepseek-r1:7b这条命令会先拉取模型再进入交互对话看到Send a message提示后直接按CtrlD退出即可模型文件已经落到本地。模型默认存放在~/.ollama/models目录下Windows 是C:\Users\用户名\.ollama\modelsLinux 是/home/用户名/.ollama/models。不同尺寸模型对内存要求差别很大7b 量化版最低 8GB 内存能跑14b 建议 16GB 以上32b 至少 32GB 内存选型时先看服务器实际配置别上来就拉 70b。拿到模型文件后完整性校验这一关不能省。模型文件在摆渡过程中容易损坏损坏后 Ollama 加载会报各种莫名错误而且这种错误很难排查。Linux 和 macOS 用sha256sumWindows 用Get-FileHash# Linux/macOS 校验 sha256sum ~/.ollama/models/blobs/sha256-*# Windows 校验 Get-FileHash -Algorithm SHA256 C:\Users\Administrator\.ollama\models\blobs\*计算出的哈希值要和模型发布页面提供的官方值比对不一致就重新下载。如果你拿到的是单独的.gguf文件而不是 Ollama 的 blob 目录可以用 Modelfile 把它注册进 Ollama。新建一个 Modelfile 文本文件内容一行即可FROM ./deepseek-r1-7b.gguf把deepseek-r1-7b.gguf和 Modelfile 放在同级目录然后执行导入# 进入模型文件所在目录 cd /path/to/model-folder # 创建本地模型mymodel 可自定义 ollama create mymodel -f Modelfile # 查看导入结果 ollama listollama create的作用是把原始 GGUF 文件编译成 Ollama 认识的模型记录-f指定 Modelfile 路径。这里容易翻车的是路径问题Modelfile 里的FROM ./xxx.gguf是相对路径必须在模型文件所在目录执行命令否则会报文件找不到。2.2 Ollama 离线安装包与客户端镜像保存/加载Ollama 本身是单个二进制文件离线部署比 Docker 简单。Windows 环境直接到 Ollama 官网下载安装包拷进内网双击安装。Linux 环境可以在联网机器上执行官方安装脚本然后把生成的二进制文件抠出来# 联网机器上执行安装脚本 curl -fsSL https://ollama.com/install.sh | sh # 找到 ollama 二进制通常在 /usr/local/bin 或 /usr/bin which ollamawhich返回的路径就是二进制位置把那个文件拷到内网即可不需要额外依赖。macOS 同理用brew install ollama装完后再找二进制文件。客户端这块Lobe Chat 是 Web 界面推荐用 Docker 镜像离线交付。先在联网机器上拉镜像、存镜像# 拉取 Lobe Chat 镜像 docker pull lobehub/lobe-chat # 把镜像导出为 tar 文件 docker save -o lobe-chat.tar lobehub/lobe-chat把lobe-chat.tar拷贝到内网服务器后用docker load导入# 内网服务器导入镜像 docker load -i lobe-chat.tar # 确认镜像已加载 docker images | grep lobe-chatdocker save默认不压缩50 多 MB 的镜像还好几百 MB 的镜像在共享文件夹传输时可能受单文件大小限制建议加上--compress参数或配合后文的分卷方式处理。如果要用 RAG 能力联网机器上还需要准备两样东西一是文本向量模型比如nomic-embed-text用ollama run nomic-embed-text拉取后和 DeepSeek 模型一起摆渡二是 Python 依赖包项目里用到了python-docx、pdfminer.six、jieba、sentence-transformers、chromadb这些库纯离线环境下没法pip install需要在联网机器上用pip download把 wheel 包全部拉下来# 只下载不安装-d 指定保存目录 pip download python-docx pdfminer.six jieba sentence-transformers chromadb \ -d /path/to/wheels \ --only-binary:all:进入内网后用--no-index强制离线安装pip install --no-index --find-links/path/to/wheels python-docx pdfminer.six jieba samtools sentence-transformers chromadb注意--only-binary:all:只下载预编译的二进制包能避免内网环境因缺编译器导致源码安装失败但也意味着 target 机器的 Python 版本和系统架构要与下载时一致。同一套 wheel 目录跨 Python 版本使用很大概率装到一半报版本不匹配。2.3 文件摆渡与分卷合并split、cat 与 7-Zip模型文件过大时U 盘和共享文件夹都可能有单文件大小限制。Linux 下用split分卷到达目标机器后用cat合并# 按 4GB 分卷生成 model_part_aa、model_part_ab ... split -b 4G deepseek-r1-70b.gguf model_part_ # 目标机器上合并且校验 cat model_part_* deepseek-r1-70b.gguf sha256sum deepseek-r1-70b.ggufsplit -b 4G的单位支持 K、M、G4G 分卷基本能绕过 U 盘 FAT32 格式的 4GB 单文件上限。Windows 下没有split用 7-Zip 的分卷压缩功能右键文件 → 分卷大小填 4096M解压时把所有分卷放同一目录再解压第一个文件即可。摆渡方式按安全要求选普通内网用 U 盘或移动硬盘最快安全性要求高的环境走安全网闸内网有共享存储的话直接传共享文件夹最方便。物理介质摆渡还要注意插拔顺序先杀毒再接内网机器这个环节出问题往往不是技术问题而是流程问题。3. 多平台部署Windows Server 与 Linux 的环境变量、systemd 和防火墙配置离线资源备齐后部署工作就变成了“装引擎、配变量、放端口”三件事。Ollama 默认只监听127.0.0.1:11434要让内网其他机器访问必须把监听地址改成0.0.0.0同时把OLLAMA_HOST和OLLAMA_MODELS两个环境变量设对最后再放行防火墙端口。两个变量分别控制服务监听地址和模型存放位置模型文件放在哪个分区变量就指向哪个目录避免模型把系统盘塞满。3.1 Windows Server 部署环境变量与服务重启Windows Server 上安装 Ollama 直接双击安装包建议装完后到服务管理器确认 Ollama 服务已经注册。环境变量配置可以在“此电脑 → 属性 → 高级系统设置 → 环境变量”里操作也可以直接用 PowerShell 以管理员身份写入系统变量# 设置监听地址为 0.0.0.0:11434允许内网访问 [System.Environment]::SetEnvironmentVariable(OLLAMA_HOST, 0.0.0.0:11434, Machine) # 指定模型存放目录建议放到数据盘 [System.Environment]::SetEnvironmentVariable(OLLAMA_MODELS, D:\ollama-models, Machine)设置完系统变量后关键一步是重启 Ollama 服务。Windows 不像 Linux 改配置会自动热加载不重启服务的话环境变量改了等于没改这是最常见的翻车点# 查看服务状态 Get-Service Ollama # 重启服务使环境变量生效 Restart-Service Ollama如果Restart-Service提示找不到服务先检查 Ollama 是否真的以服务方式安装也可以通过Get-Process -Name ollama确认进程存在。防火墙放行端口用netsh advfirewall命令# 放行 11434Ollama API和 3010Lobe Chat Web作用域设为内网 netsh advfirewall firewall add rule nameOllama 11434 dirin actionallow protocolTCP localport11434 netsh advfirewall firewall add rule nameLobeChat 3010 dirin actionallow protocolTCP localport3010dirin表示入站规则localport指定放行端口。如果内网有 DHCP 网段变化建议按网段限制remoteip避免任何来源都能访问模型服务。Windows Server 2019 和 2022 上这套流程验证过没问题再旧的版本要注意 Docker 和系统依赖库兼容性。3.2 Linux Server 部署systemd 服务单元与防火墙Linux 部署先把联网机器拷来的二进制文件放到位sudo cp ollama /usr/local/bin/ sudo chmod x /usr/local/bin/ollama推荐用 systemd 管理 Ollama 服务这样开机自启、异常退出自动重启都能覆盖。创建服务单元文件/etc/systemd/system/ollama.service[Unit] DescriptionOllama Service Afternetwork.target [Service] Userollama WorkingDirectory/opt/ollama ExecStart/usr/local/bin/ollama serve EnvironmentOLLAMA_HOST0.0.0.0:11434 EnvironmentOLLAMA_MODELS/opt/ollama/models Restartalways RestartSec3 [Install] WantedBymulti-user.targetEnvironment里的两个变量相当于 Windows 的环境变量配置Restartalways配合RestartSec3让服务崩溃后自动拉起Userollama指定的系统用户需要有模型目录的读写权限。启动服务前建议手动创建模型目录并赋权sudo mkdir -p /opt/ollama/models sudo chown -R ollama:ollama /opt/ollama sudo systemctl daemon-reload sudo systemctl enable --now ollamaenable --now同时完成开机自启和立即启动。后续排查用systemctl status ollama看服务状态journalctl -u ollama -f看实时日志。模型加载报错时日志里会有明确提示比 Windows 的黑匣子好排查得多。防火墙规则按发行版区分。CentOS / RHEL 用firewall-cmdUbuntu / Debian 用ufw# CentOS / RHEL sudo firewall-cmd --permanent --add-port11434/tcp sudo firewall-cmd --reload # Ubuntu / Debian sudo ufw allow 11434/tcp这里有个高频误解很多人只加了主机防火墙忘了云平台安全组或内网虚拟网络 ACL 也要放行。主机防火墙和安全组属于不同层级都得配缺一个就无法跨机器访问。国产化系统这块目前主流国产系统大多基于 Linux 内核部署路径与 Ubuntu / CentOS 基本一致Ollama 二进制能跑就有很大概率能跑通。重点是 CPU 架构x86_64 和 ARM64 的二进制不通用下载时看清平台标识。若官方没有对应架构的发布版本找社区编译版时要特别留意来源可信度并校验哈希值。3.3 macOS 部署环境变量与 LaunchAgents 可选配置macOS 部署主要面向开发机或小型内网服务器安装方式两种# 方式一官方安装脚本 curl -fsSL https://ollama.com/install.sh | sh # 方式二Homebrew brew install ollama环境变量写在~/.zshrc或~/.bash_profile中export OLLAMA_HOST0.0.0.0:11434 export OLLAMA_MODELS/opt/ollama/models改完执行source ~/.zshrc使其生效。macOS 如果想把 Ollama 做成开机自启的后台服务可以用 LaunchAgents。创建~/Library/LaunchAgents/com.ollama.serve.plist?xml version1.0 encodingUTF-8? !DOCTYPE plist PUBLIC -//Apple//DTD PLIST 1.0//EN http://www.apple.com/DTDs/PropertyList-1.0.dtd plist version1.0 dict keyLabel/key stringcom.ollama.serve/string keyProgramArguments/key array string/usr/local/bin/ollama/string stringserve/string /array keyRunAtLoad/key true/ /dict /plist加载服务launchctl load ~/Library/LaunchAgents/com.ollama.serve.plistmacOS 的 Gatekeeper 和 SIP 默认开启安装 Ollama 或 Lobe Chat 时如遇权限提示按系统引导授权即可非必要不关闭 SIP。性能监控直接用活动监视器关注 CPU 和内存占用再根据模型负载调整线程数。4. 离线数据投喂文本分块、向量化与 Cherry Studio 实现 RAG 的两种路径模型装好后知识库能不能用取决于数据投喂这一环。RAG 的核心流程是把文档解析成纯文本按固定长度切成小块用嵌入模型把每一块转成向量存进向量数据库用户提问时系统先把问题向量化检索最相关的文本块再连同问题一起交给大模型生成回答。这个流程可以用代码实现也可以用 Cherry Studio 图形化完成。4.1 文档解析与文本分块投喂数据前先处理文档格式。txt 和 Markdown 直接读取即可PDF 和 DOCX 需要用工具提取文本。项目里使用的 Python 库需要在离线环境下预先准备好 wheel 包# 提取 DOCX 文本 from docx import Document document Document(your_document.docx) text \n.join([paragraph.text for paragraph in document.paragraphs])Document.paragraphs返回文档正文段落paragraph.text直接拿段落文本表格和页眉页脚不包含在内。如果文档里有大量表格需要另行遍历document.tables获取。PDF 提取用pdfminer.six提供的命令行工具# 提取 PDF 文本到 txt 文件 pdf2txt.py your_document.pdf -o output.txt这个命令会保留阅读顺序但扫描版 PDF 需要 OCRpdfminer无能为力这点提前确认别等到投喂时才后悔。提取出文本后做分块。分块长度直接影响检索质量块太长语义噪音多块太短上下文不完整。我一般按 500 到 800 字符切分相邻块之间留 100 到 200 字重叠保证跨块语义不丢def split_text(text, chunk_size500, overlap100): chunks [] for i in range(0, len(text), chunk_size - overlap): chunks.append(text[i:i chunk_size]) return chunks chunks split_text(text)step是chunk_size - overlap这样前后两个块之间有重叠部分适合处理段落边界信息容易被切碎的情况。中文还能用jieba做关键词提取辅助后续检索但分块本身不依赖分词。4.2 向量化与 ChromaDB 写入文本块准备好后用嵌入模型把每个块转成向量。离线环境必须把嵌入模型也放在本地例如bge-large-zh-v1.5这类中文友好的模型目录拷进内网后加载from sentence_transformers import SentenceTransformer # 加载本地嵌入模型路径指向内网模型目录 model SentenceTransformer(/path/to/embedding/model) # 批量向量化 embeddings model.encode(chunks, show_progress_barTrue)sentence-transformers库会读取模型目录下的配置文件保持模型目录完整拷贝不要只拷权重文件否则加载时找不到config.json或tokenizer.json直接报错。如果已经用 Ollama 拉取过nomic-embed-text也可以让 Ollama 负责向量化这样少装一套 Python 依赖。向量库推荐 ChromaDB纯本地存储零服务化配置适合内网场景import chromadb # 持久化存储到指定目录 client chromadb.PersistentClient(path/data/chromadb) # 创建集合hnsw:spacecosine 指定余弦相似度 collection client.create_collection( corp_kb, metadata{hnsw:space: cosine} ) # 写入向量和文档 collection.add( embeddingsembeddings.tolist(), documentschunks, metadatas[{source: doc1}] * len(chunks), ids[str(i) for i in range(len(chunks))] )PersistentClient指定路径后向量库会落盘保存服务重启数据不丢。create_collection的metadata里hnsw:space可选cosine、l2、ip中文文档检索场景下cosine通常更合适。embeddings参数传入的是向量列表别忘了把 numpy 数组转成 Python 列表否则序列化会报错。4.3 Cherry Studio 图形化 RAG新手推荐自己写代码搭 RAG 全链路灵活但工程成本高新手很容易在依赖安装、向量库连接、编码问题上反复折腾。Cherry Studio 把数据投喂做成了可视化操作适合第一次搭知识库的人前提是 Ollama 里已经把对话模型和向量模型都准备好了。操作路径如下先在 Cherry Studio 设置中添加 Ollama 服务地址填入内网 Ollama 的 IP 和端口例如http://192.168.1.10:11434再选择 DeepSeek 模型作为对话模型。接着添加嵌入模型这里要选nomic-embed-text这是 RAG 检索时负责向量化的模型。然后在知识库页面新建知识库把 txt、pdf、docx、md 文件拖进去Cherry Studio 会自动完成分块和向量化。最后在助手设置里关联这个知识库提问时就会自动走检索增强流程。这套方式的优点是零代码、可交互索引状态和检索结果都能直接看到。缺点是调度策略被软件固定无法像代码方案那样自由调整分块大小和检索阈值。等你跑通整套流程后再回头看代码方案会容易很多本质上都是“切块、向量化、检索、拼接”四件事。5. 安全加固与避坑Ollama API 未授权访问、端口暴露和权限控制的教训很多教程只教你把OLLAMA_HOST改成0.0.0.0却不提醒这意味着什么。Ollama 的 API 默认没有鉴权机制一旦监听地址暴露到内网任何能访问该 IP 的设备都能调用/api/generate生成内容更严重的是能通过/api/pull往服务器灌模型、通过/api/delete删模型。数据泄露的风险比想象中大得多安全加固是离线部署的必选项。5.1 先把 11434 端口挡住Ollama API 未授权访问最直接的加固手段是别让 Ollama 裸奔。如果业务上不需要外部直连 Ollama就把OLLAMA_HOST保持为127.0.0.1:11434让 Lobe Chat 或 Cherry Studio 通过服务端本地访问。如果确实需要对外开放至少做到网段隔离只允许业务网段访问 11434其他网段一律拒绝。使用宝塔面板做安全设置时进入面板的“安全”页面添加端口规则放行 11434然后在来源 IP 一栏填写允许访问的内网网段例如192.168.1.0/24不要填0.0.0.0/0。宝塔本质上是 iptables / firewalld 的可视化封装规则会落实到主机防火墙但云平台安全组那一层还需要单独检查。更稳的做法是把 Ollama 藏在反向代理后面用 HTTP Basic Auth 加一层密码保护。宝塔面板通常自带 nginx添加一个站点或反向代理配置# 站点的 location 配置代理到本机 Ollama location / { proxy_pass http://127.0.0.1:11434; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; # 加用户名密码认证 auth_basic Ollama API Restricted; auth_basic_user_file /etc/nginx/.htpasswd; }auth_basic_user_file指向用htpasswd工具生成的文件客户端访问时先弹认证框通过后才进入代理。这个方案比单纯限制 IP 更灵活运维同事临时要用给账号密码就行不用改防火墙规则。客户端连这个代理端口而不是直连 11434。5.2 Lobe Chat 访问控制与容器网络Lobe Chat 自身带访问码机制部署时设置ACCESS_CODE环境变量用户打开页面输对访问码才能看到内容。同时把OPENAI_API_KEY这类外部服务密钥换成内网 Ollama 地址让所有模型请求都走内网docker run -d -p 3210:3210 \ -e OLLAMA_BASE_URLhttp://127.0.0.1:11434 \ -e OLLAMA_API_MODELdeepseek-r1:7b \ -e ACCESS_CODEyour-access-code \ --name lobe-chat \ lobehub/lobe-chat这里有个容器网络的坑127.0.0.1指的是容器内部不是宿主机。如果 Ollama 在宿主机上监听 127.0.0.1Lobe Chat 容器里访问http://127.0.0.1:11434是连不通的。解决办法是让 Ollama 监听0.0.0.0:11434并配合防火墙限制来源或者用 Docker 的host网络模式运行 Lobe Chat。生产环境我一般建议把 Ollama 和 Lobe Chat 都部署在同一台 Linux 服务器Lobe Chat 用--network host启动这能少绕很多弯路。5.3 五条高频踩坑记录以下是从实际部署中反复出现的问题按现象、原因、解决三个维度记录。坑一环境变量改了内网其他机器还是访问不了 Ollama现象Windows 服务器上设了OLLAMA_HOST0.0.0.0:11434本机能通其他机器连不上。原因设置系统环境变量后没有重启 Ollama 服务服务仍按旧配置运行。解决修改环境变量后必须重启 Ollama 服务。Windows 用Restart-Service Ollama或服务管理器手动重启Linux 用systemctl restart ollama。重启后用netstat -an | grep 11434确认监听地址从127.0.0.1变成了0.0.0.0。坑二主机防火墙放行了还是连不上现象Linux 上firewall-cmd --add-port11434/tcp执行完远程 curl 依然超时。原因主机防火墙之外云平台安全组、虚拟网络 ACL 或物理防火墙限制了端口入站。解决按层级排查。本机先curl 127.0.0.1:11434再用内网 IPcurl 内网IP:11434仍失败就去安全组确认入站规则。主机防火墙只是其中一层网络链路每层都要放行。坑三Lobe Chat 容器访问不到宿主机的 Ollama现象Lobe Chat 页面能打开但发消息时报连接失败。原因容器里127.0.0.1指向容器自身不是宿主机host.docker.internal在 Linux 上默认也不解析。解决Linux 上 Docker 启动加--network host直接用宿主机 IP 或 127.0.0.1 作为OLLAMA_BASE_URLWindows / macOS 在 Docker Desktop 下可以用host.docker.internal。坑四手动拷贝模型目录后ollama list看不到模型现象把联网机器上整个.ollama/models目录拷到内网对应位置重启 Ollama 后模型列表为空。原因Ollama 的 blob 目录里有硬链接和哈希文件名直接拷贝容易丢关联信息。解决不要手动拷贝 blob 目录。要么完整打包整个.ollama/models目录并保证路径一致要么用独立的.gguf文件加 Modelfile 执行ollama create重新导入后者更可控。坑五模型文件把系统盘写满了现象内网服务器启动 Ollama 加载模型后系统提示磁盘空间不足。原因Ollama 默认把模型存在用户目录一般在系统盘大模型动辄几十 GB系统盘很容易被打满。解决部署前先设OLLAMA_MODELS指向数据分区并把需要的数据提前创建、赋予权限。这个变量在 Windows、Linux、macOS 上都生效属于部署第一步就该做的事。6. 验证三步法先探 PID、再探 API、最后验问答附一条 Modelfile 进阶技巧部署完成后别急着投喂数据先花两分钟把链路验证走一遍能省下后面大量排查时间。我在内网环境里固定按三步走先确认进程再探 API最后做一次真实问答。第一步确认服务进程和监听端口# Linux 查看进程和端口 ps -ef | grep ollama netstat -tlnp | grep 11434netstat输出监听地址如果是0.0.0.0:11434说明服务已对全网卡开放。看到127.0.0.1:11434而配置却期望内网访问说明环境变量没生效。第二步用curl直接测 API 和模型加载状态# 查看已加载的模型列表 curl http://127.0.0.1:11434/api/tags # 发起一个真实生成请求 curl http://127.0.0.1:11434/api/generate \ -d {model: deepseek-r1:7b, prompt: 你好请用一句话介绍你自己, stream: false}/api/tags返回的是该 Ollama 实例上所有模型确认目标模型在列表中。/api/generate的stream: false表示关闭流式输出一次返回完整结果方便直接看返回内容。如果返回model not found说明模型没有正确导入回到 Modelfile 导入那步检查。第三步验证 Lobe Chat 和 Cherry Studio。浏览器打开 Lobe Chat 页面输入ACCESS_CODE进入选好对话模型后发一条消息。然后再进 Cherry Studio 的知识库随便问一个只存在于文档里的问题能引用到对应文档片段说明 RAG 链路闭环正常。验证通过后这里再给一条进阶技巧用 Modelfile 把系统提示词和推理参数固化进模型。这样生成“企业专属版”模型时客户端侧无需重复配置提示词和参数# Modelfile 进阶示例 FROM deepseek-r1:7b SYSTEM 你是一个企业知识库助手只依据资料库中的内容回答不要编造事实。 PARAMETER temperature 0.3 PARAMETER top_p 0.7 PARAMETER num_ctx 8192temperature 0.3让回答更保守适合知识库问答场景top_p 0.7控制候选词范围num_ctx 8192把上下文窗口从默认值拉长能容纳更多检索片段。保存为 Modelfile 后用ollama create创建新模型在 Cherry Studio 或 Lobe Chat 里选择这个模型问答质量和一致性会明显提升。这套完整部署流程走完从模型摆渡、环境部署到 RAG 投喂和 API 加固每一步都能验证。从那以后我每次在新环境装完 Ollama都会强制先跑一遍 curl 探活再放防火墙再建知识库这三步走完内网 AI 知识库基本不会再翻车。希望帮到你。本文还有配套的精品资源点击获取