资讯详情

资讯详情

5 步在本地搭起自托管 AI:self-hosted-ai-starter-kit 部署与配置方法

5 步在本地搭起自托管 AIself-hosted-ai-starter-kit 部署与配置方法【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit想本地搭建一套数据不出门的 AI 工作流却卡在装模型、配向量库、接平台这些步骤上self-hosted-ai-starter-kit 是一个开箱即用的自托管 AI 环境模板一条 Docker Compose 命令就能拉起 n8n、Ollama、Qdrant 和 PostgreSQL 四个服务。它能帮你做什么装完不是摆着看直接就能上手两件事让本地模型读你的 PDF把公司内部文档丢进工作流问答、摘要全程在本机完成敏感内容不出机器。搭一个能干活的 AI Agent比如自动排日程、当个更聪明的 Slack 机器人n8n 自带的 400 多种集成随你拖。 动手前先自检四条都过线再动手后面会少踩坑检查项去哪确认达标线Docker 与 Compose终端运行docker --version、docker compose version两条都能返回版本号内存系统设置或free -h至少 8GB16GB 以上更稳磁盘磁盘管理工具看剩余空间20GB 以上镜像和模型都要占地方网络能否正常拉取 Docker 镜像稳定可访问镜像仓库 部署主流程先把仓库克隆下来。跑完这条命令当前目录会多出一个 self-hosted-ai-starter-kit 文件夹后续都在里面操作。git clone https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit cd self-hosted-ai-starter-kit复制出环境变量文件。只跑一条cp .env.example .env然后打开 .env把 POSTGRES_PASSWORD、N8N_ENCRYPTION_KEY、N8N_USER_MANAGEMENT_JWT_SECRET 这几处默认值换成自己的。cp .env.example .env启动 CPU 版环境。这一条命令会依次拉取 n8n、ollama、postgres、qdrant 的镜像并逐个启动看到日志里出现Editor is now accessible via: http://localhost:5678/就说明 n8n 就绪了。docker compose --profile cpu up注册 n8n 账号。浏览器打开 http://localhost:5678/ 走完首次账号设置即可这一步只做一次。✅ 确认它跑起来了最短验证路径就三步打开预置的示例工作流http://localhost:5678/workflow/srOnR8PAY3u4RSwb点画布底部的Chat按钮发一句话首次运行要等 Ollama 下完 Llama3.2用docker compose logs看下载进度下完就会收到回复认识你的目录以后大概率只动这几个地方文件 / 目录什么时候会碰它docker-compose.yml换 CPU/GPU 启动参数、查服务与端口n8n 5678、Ollama 11434、Qdrant 6333.env由 .env.example 复制而来改数据库密码、加密密钥或在 Mac 上指定OLLAMA_HOSTn8n/demo-data/workflows/往里放自己的工作流 JSON首次启动会自动导入n8n/demo-data/credentials/示例凭证同样自动导入可以照着写自己的shared/宿主机共享文件夹容器内挂在/data/shared读本地文件的节点用这个路径⚙️ 按你的机器调优有 GPU 就用 GPU。启动命令里把--profile cpu换成--profile gpu-nvidiaAMD 用--profile gpu-amdOllama 的推理速度会明显上来。MacM 系芯片别硬塞 GPU。Docker 拿不到 M 芯片的算力两条路纯 CPU 跑或者在 Mac 上原生装 Ollama在 .env 里设OLLAMA_HOSThost.docker.internal:11434再把 n8n 凭证里 Local Ollama service 的 base URL 改成同一地址等于白捡一份硬件加速。内存吃紧就换小模型。默认拉的是 Llama3.2配置低可以在 Ollama 里换成 7B 量级的小模型工作流不用动只是回答风格变简洁。保持更新。git pull之后执行docker compose --profile cpu pull再跑docker compose create docker compose --profile cpu up新功能和补丁就进来了。 常见卡点症状启动命令直接报错提示 .env 缺失。原因克隆完没建环境变量文件。解法补一条cp .env.example .env再启动。症状5678 端口打不开页面。原因端口被别的程序占了。解法停掉占用该端口的程序重新跑docker compose --profile cpu up。症状点了 Chat 半天没反应。原因首次运行还在下载 Llama3.2 模型。解法docker compose logs看下载进度等它下完。下一步到这里你手上已经有了四个本地服务、一个预置工作流和一条放进 JSON 就自动导入的扩展路径。现在就去打开那个示例工作流点一次 Chat让本地的 Llama3.2 回你一句话想继续深挖配置细节翻 README 使用手册 就行。【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
觉得有用,分享给同行:

为您的企业打造数字门面

稳重轻奢商务风格,端正雅致视觉,长效耐看不易过时。

立即咨询 →