MinerU 在 Windows 直装后推理速度很慢怎么排查?
发布时间:2026/9/9 18:56:18 锦皓数字建站

MinerU 在 Windows 直装后推理速度很慢怎么排查【免费下载链接】MinerUTransforms complex documents like PDFs and Office docs into LLM-ready markdown/JSON for your Agentic workflows.项目地址: https://gitcode.com/GitHub_Trending/mi/MinerU在 Windows 上用pip直接安装 MinerU 后跑文档解析推理速度明显很慢——官方 FAQ 给出的判断是这通常是 CUDA 加速相关依赖未正确安装导致的。原因在于命令行工具只会在 Linux 和 macOS 上自动尝试 cuda/mps 加速Windows 用户需要手动安装支持 CUDA 的torch与torchvision参见 快速使用文档 中的说明。本文按你的显卡架构给出两条对应的修复路径以及环境上的限制条件。先确认慢的根因与适用前提按官方 FAQ 的表述Windows 直接安装后推理速度很慢首先对应 CUDA 依赖问题排查前先确认安装方式是mineru[all]这类直接安装兼容 Windows / Linux / macOS而不是 Docker 方式——Docker 部署仅适用于 Linux 以及支持 WSL2 的 Windows 环境走的是另一套环境你使用的是 NVIDIA 显卡且架构在支持范围内GPU 加速要求 Volta 及以后架构的 GPU或 Apple Siliconpipeline后端显存最低 4GB*-engine后端最低 8GBPython 版本要求 3.10–3.13以上均出自 快速入门 的环境支持说明。确认属于上述情况再按下面的架构分支安装依赖。按显卡架构选择修复分支FAQ 按架构给出两种方案先对照你的显卡型号显卡架构典型型号方案Volta / Turing / Ampere / Ada LovelaceV100、20 系、T4、30 系、40 系直接安装支持 CUDA 的torch和torchvisionBlackwellRTX 50xx 系列安装lmdeploy 0.11.1 cu128的 Windows wheel分支一Volta 及以后非 Blackwell显卡直接安装支持 CUDA 的torch和torchvision。前往 PyTorch 官网pytorch.org/get-started/locally/选择与你本机 CUDA 版本匹配的 Windows 安装命令按官网给出的命令执行即可。文档没有给出固定版本号以官网按你的 CUDA 版本生成的命令为准。分支二Blackwell 显卡RTX 50xx 系列Blackwell 显卡需要安装lmdeploy 0.11.1 cu128的 Windows wheel。下面命令中PYTHON_VERSION需要按你当前 Python 版本替换Python 3.10 / 3.11 / 3.12 / 3.13 分别填写310/311/312/313$env:LMDEPLOY_VERSION 0.11.1 $env:PYTHON_VERSION 312 $wheel https://github.com/InternLM/lmdeploy/releases/download/v$($env:LMDEPLOY_VERSION)/lmdeploy-$($env:LMDEPLOY_VERSION)cu128-cp$($env:PYTHON_VERSION)-cp$($env:PYTHON_VERSION)-win_amd64.whl pip install $wheel --extra-index-url https://download.pytorch.org/whl/cu128注意这条命令会从 PyTorch 的 cu128 索引下载依赖可能覆盖环境里已有的torch。如果环境中已经安装过 cu128 版本的torch定义好$wheel后只需执行下面一条可避免重新下载低版本torchpip install $wheel --no-dependencies验证与限制文档没有提供单独的 CUDA 可用性检查命令。安装完成后的判断方式是重新执行同一条解析命令例如mineru -p input_path -o output_path其中input_path为本地PDF/ 图片 /DOCX/PPTX/XLSX文件或目录output_path为输出目录。之前缓慢的现象消失、解析正常返回结果说明依赖已按架构分支装对。执行时注意文档中明确的几点限制Python 版本快速入门 的脚注说明由于关键依赖ray未能在 Windows 平台支持 Python 3.13Windows 实际仅支持 3.10–3.12而 FAQ 的 wheel 命名中列出了313选项。两处表述并存建议在 Windows 上使用 3.10–3.12Python 3.13 时以 FAQ 给出的 wheel 选项为准并自行验证。推理框架二选一vllm和lmdeploy对 VLM 的推理加速效果与用法几乎相同文档明确不建议同时安装这两个模块以避免依赖冲突见 扩展模块安装指南。Blackwell 分支走的lmdeploywheel 同时提供了vlm-lmdeploy-engine后端该后端在 changelog 中说明额外支持 Windows 平台原生推理加速。显存门槛lmdeploy模块适用于 Volta 及以后架构、8G 显存及以上的显卡如果你的显存只有 4GBGPU 加速只覆盖pipeline后端。依赖装对后mineru -p input_path -o output_path在满足 GPU 条件的机器上即走加速路径若仍不满足加速条件如纯 CPU 设备也可指定-b pipeline在纯 CPU 环境运行这是文档给出的 CPU 回退方式速度预期与 GPU 加速不同。【免费下载链接】MinerUTransforms complex documents like PDFs and Office docs into LLM-ready markdown/JSON for your Agentic workflows.项目地址: https://gitcode.com/GitHub_Trending/mi/MinerU创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
锦
锦皓数字建站
深耕本土企业品牌数字化升级,专注原创端正雅致商务官网,从视觉设计到稳定运维全程保驾护航。