1. 为什么要在 Windows 上折腾 WSL2 跑 AI 开发环境如果你是一个长期在 Windows 上做深度学习或者大模型微调的开发者大概率经历过这样的场景想跑一个 PyTorch 训练脚本结果发现某个依赖库在 Windows 上编译不过想用一些 Linux 下才有的性能分析工具又不想重启切换到双系统好不容易配好了 CUDA结果发现某个算子只支持 Linux 内核调度。这种“两头不讨好”的状态我折腾了差不多两年直到把整套 AI 开发环境彻底迁到 WSL2 上才算真正消停下来。WSL2 全称是 Windows Subsystem for Linux 第二代它跟第一代最大的区别在于WSL1 是系统调用翻译层而 WSL2 直接跑了一个轻量级的完整 Linux 内核虚拟机。这意味着你在 WSL2 里拿到的不是一个“模拟的 Linux”而是一个真正的 Linux 内核系统调用、内存管理、进程调度都是原生的。对于 AI 开发来说这一点至关重要因为 CUDA 驱动、PyTorch 的底层算子、NCCL 通信库这些东西对内核行为非常敏感翻译层很容易出各种玄学问题。那 GPU 直通又是怎么回事简单说WSL2 通过微软和 NVIDIA 合作的一套机制把 Windows 主机上的 NVIDIA 显卡驱动以半虚拟化的方式暴露给 WSL2 里的 Linux 内核。你不需要在 WSL2 里再装一遍显卡驱动只需要 Windows 侧装好驱动WSL2 里装对应的 CUDA Toolkit 就能直接调用 GPU。实测下来nvidia-smi在 WSL2 里能正常输出PyTorch 的torch.cuda.is_available()也能返回 True训练速度跟原生 Linux 相比差距在 5% 以内日常开发完全够用。这套方案适合谁我觉得有三类人特别值得试第一类是做深度学习模型训练和微调的尤其是需要跑大模型 LoRA 或者全量微调的第二类是做 GPU 加速计算、需要 CUDA 编程的第三类是想学 Linux 但又不想放弃 Windows 日常办公和娱乐的。如果你只是偶尔跑个推理那其实 Windows 原生环境也够但只要你涉及到训练、编译、多卡通信这些场景WSL2 的优势就非常明显了。2. 环境搭建前的整体设计与选型考量2.1 为什么选 WSL2 而不是双系统或者纯 Linux 主机双系统的问题在于切换成本太高。你正在 Windows 上查资料、写文档突然要跑个训练重启切到 Linux跑完再切回来一天下来光重启就浪费不少时间。而且双系统下两个系统的文件系统是隔离的数据交换很麻烦。纯 Linux 主机倒是省事但你就得放弃 Windows 上的很多生产力工具和娱乐软件对于大多数人来说不现实。WSL2 的好处是它跟 Windows 是深度融合的。你可以在 Windows 的 VS Code 里直接打开 WSL2 里的项目文件夹用 Windows 的浏览器查文档同时 WSL2 里的训练脚本在后台跑着。文件系统也是互通的Windows 的 D 盘挂载在/mnt/d下你可以直接把数据集放在 Windows 盘里WSL2 里直接读。这种无缝体验是双系统和纯 Linux 都给不了的。还有一个容易被忽略的点WSL2 支持 systemd。从 0.67.6 版本开始WSL2 可以通过配置文件启用 systemd这意味着你可以像在原生 Linux 上一样用systemctl管理服务。对于需要跑一些后台服务比如 Jupyter Notebook、TensorBoard、模型推理服务的场景这个特性非常实用。2.2 GPU 直通的技术原理与版本要求GPU 直通的核心是微软的 GPU 半虚拟化技术GPU-PV。Windows 主机上的 NVIDIA 驱动会创建一个虚拟的 GPU 设备通过 WSL2 的虚拟机总线暴露给 Linux 内核。Linux 侧看到的是一个/dev/dxg设备CUDA 库通过这个设备跟 Windows 侧的驱动通信最终落到物理 GPU 上执行。这套机制对版本有硬性要求。Windows 侧需要 Win10 21H2 以上或者 Win11而且必须是 WSL2 模式。NVIDIA 驱动需要是 470 以上的版本推荐用 535 或者更高的生产分支驱动。WSL2 内核版本需要 5.10.60.1 以上。CUDA Toolkit 在 WSL2 里推荐用 11.8 或者 12.x 系列这两个版本对 WSL2 的支持最成熟。这里有个坑要注意WSL2 里不要装 NVIDIA 的 Linux 显卡驱动。很多人习惯性地在 Linux 里apt install nvidia-driver-xxx这在 WSL2 里会把 GPU 直通搞坏。WSL2 里的 CUDA 库只需要 CUDA Toolkit驱动部分完全由 Windows 侧提供。这一点跟原生 Linux 完全不同是新手最容易踩的坑。2.3 发行版选择与存储位置规划WSL2 支持的发行版很多Ubuntu、Debian、Fedora、openSUSE 都有。做 AI 开发我推荐 Ubuntu 22.04 LTS 或者 24.04 LTS原因是 PyTorch 和 CUDA 的官方文档基本都是基于 Ubuntu 写的遇到问题搜解决方案也最容易找到。Ubuntu 22.04 的软件源里 CUDA Toolkit 版本比较全24.04 更新一些但有些老库可能还没适配。存储位置是个大问题。WSL2 默认把发行版装在 C 盘的用户目录下一个 Ubuntu 加上 CUDA Toolkit 和 PyTorch轻松吃掉 30 到 50 GB。如果你的 C 盘是系统盘而且空间紧张建议把 WSL2 迁到 D 盘或者其他数据盘。迁移方法后面会详细讲核心思路是先用wsl --export导出镜像再用wsl --import导入到目标位置。另外WSL2 的虚拟磁盘文件ext4.vhdx会随着使用不断增长但不会自动收缩。你删了文件vhdx 文件大小可能还是那么大。这个后面在问题排查部分会讲怎么处理。3. 从零开始的完整部署实操流程3.1 Windows 侧准备启用功能与安装 WSL2第一步是确认 Windows 版本。按Win R输入winver确保版本号是 21H2 以上。如果是 Win11 那基本没问题。然后以管理员身份打开 PowerShell执行以下命令启用必要的 Windows 功能dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart这两条命令分别启用 Linux 子系统和虚拟机平台。执行完需要重启电脑。重启后下载并安装 WSL2 内核更新包这个在微软官网搜“WSL2 Linux 内核更新包”就能找到。装完之后把 WSL2 设为默认版本wsl --set-default-version 2然后安装 Ubuntu 22.04wsl --install -d Ubuntu-22.04这个命令会自动下载并安装 Ubuntu 22.04。安装完成后会提示你设置用户名和密码。这里有个细节用户名不要用中文也不要用大写字母纯小写英文加数字最稳妥避免后续路径出现编码问题。3.2 把 WSL2 迁移到非系统盘如果你 C 盘空间充足这步可以跳过。但如果要迁移先关闭 WSL2wsl --shutdown然后导出当前发行版wsl --export Ubuntu-22.04 D:\wsl\ubuntu22.04.tar这个 tar 文件可能有好几个 GB导出时间取决于你的磁盘速度。导出完成后注销原来的发行版wsl --unregister Ubuntu-22.04接着在目标位置创建目录并导入mkdir D:\wsl\ubuntu22.04 wsl --import Ubuntu-22.04 D:\wsl\ubuntu22.04 D:\wsl\ubuntu22.04.tar --version 2导入完成后默认登录用户会变成 root。你需要修改默认用户方法是编辑/etc/wsl.conf[user] default你的用户名然后在 PowerShell 里wsl --shutdown重启一次再进入就是你的用户了。这个迁移过程我做过好几次实测下来很稳但要注意导出前把不必要的大文件清理掉不然 tar 包会很大。3.3 启用 systemd 与基础环境配置Ubuntu 22.04 默认没有启用 systemd。编辑/etc/wsl.conf加上[boot] systemdtrue保存后wsl --shutdown重启。再次进入后可以用systemctl status验证如果能看到服务列表就说明 systemd 生效了。接下来更新软件源并安装基础工具sudo apt update sudo apt upgrade -y sudo apt install -y build-essential git curl wget vim htop tmuxbuild-essential是编译 PyTorch 扩展和某些 Python 包必需的tmux用于在训练时保持会话htop看系统资源。这些工具看着不起眼但后面都会用到。3.4 安装 CUDA Toolkit 与验证 GPU 直通在 WSL2 里装 CUDA Toolkit推荐用 NVIDIA 官方源。先下载并安装 keyringwget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-keyring_1.1-1_all.deb sudo dpkg -i cuda-keyring_1.1-1_all.deb sudo apt update然后安装 CUDA Toolkit。这里选 12.1 版本因为 PyTorch 2.x 对 12.1 支持最好sudo apt install -y cuda-toolkit-12-1装完后配置环境变量编辑~/.bashrc在末尾加上export PATH/usr/local/cuda-12.1/bin:$PATH export LD_LIBRARY_PATH/usr/local/cuda-12.1/lib64:$LD_LIBRARY_PATH然后source ~/.bashrc。验证 CUDA 是否可用nvcc --version nvidia-sminvcc --version应该输出 CUDA 12.1 的版本信息。nvidia-smi应该显示你的 GPU 型号、显存、驱动版本。如果nvidia-smi报错说找不到命令检查一下是不是装了 Linux 侧的 NVIDIA 驱动如果是卸载掉sudo apt remove --purge nvidia-*然后重启 WSL2。这个坑我踩过当时在 WSL2 里手贱装了nvidia-driver-535结果 GPU 直通直接失效nvidia-smi报 “No devices were found”卸载后恢复正常。3.5 安装 Miniconda 与 PyTorchPython 环境管理我推荐 Miniconda比系统自带的 Python 干净也比 Anaconda 轻量。下载安装wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh bash Miniconda3-latest-Linux-x86_64.sh安装过程中一路回车最后问是否初始化 conda 时选 yes。然后source ~/.bashrc让 conda 生效。创建一个专门用于 AI 开发的虚拟环境conda create -n pytorch python3.10 -y conda activate pytorchPython 3.10 是当前 PyTorch 兼容性最好的版本3.11 和 3.12 有些第三方库还没跟上。然后安装 PyTorch用官方推荐的 CUDA 12.1 版本pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121这个命令会从 PyTorch 官方源下载预编译好的 CUDA 12.1 版本不需要本地编译几分钟就能装完。装完后验证python -c import torch; print(torch.__version__); print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))如果输出显示版本号、True 和你的 GPU 型号说明整套环境跑通了。如果torch.cuda.is_available()返回 False先检查 CUDA Toolkit 版本和 PyTorch 版本是否匹配再看nvidia-smi是否正常。4. 性能调优与日常使用中的关键细节4.1 内存与 CPU 资源分配策略WSL2 默认会占用宿主机的很大一部分内存有时候能吃到 80%。对于 AI 开发来说这可能导致 Windows 侧卡顿甚至训练时因为内存不足被 OOM Killer 杀掉。解决办法是在 Windows 用户目录下创建.wslconfig文件路径是C:\Users\你的用户名\.wslconfig内容如下[wsl2] memory32GB processors16 swap8GB localhostForwardingtruememory根据你物理内存来设一般给一半到三分之二。比如 64GB 内存给 32GB32GB 内存给 16GB。processors设成物理核心数的一半左右留一些给 Windows 系统。swap设 8GB 到 16GB防止内存突然不够时进程被杀。改完后wsl --shutdown重启生效。这里有个经验如果你要跑大模型微调显存比内存更关键。WSL2 的 GPU 直通是独占式的Windows 侧如果也在用 GPU比如玩游戏、跑渲染会跟 WSL2 抢资源。训练的时候最好把 Windows 侧的 GPU 占用程序关掉。4.2 文件系统性能跨系统访问的坑WSL2 访问 Windows 文件/mnt/c、/mnt/d走的是 9P 协议性能比访问 WSL2 内部文件系统ext4差很多。实测下来读小文件可能慢 3 到 5 倍写大文件也慢不少。所以数据集和训练代码最好放在 WSL2 内部比如~/projects和~/datasets。但 WSL2 内部空间有限如果数据集特别大比如几百 GB放 Windows 盘也不是不行但要注意 IO 瓶颈。我的做法是代码和配置文件放 WSL2 内部数据集放 Windows 盘训练时用torch.utils.data.DataLoader的num_workers多开几个进程预读取能缓解 IO 压力。另外/mnt/d下的文件权限默认是 777有些训练框架会警告可以在/etc/wsl.conf里加上[automount] options metadata,umask22,fmask11这样挂载的 Windows 盘会有正常的权限位。4.3 显存监控与训练稳定性保障WSL2 里监控显存用nvidia-smi就行但默认输出是静态的。想看实时刷新用watch -n 1 nvidia-smi或者用nvitop一个 Python 写的 GPU 监控工具界面比nvidia-smi好看很多pip install nvitop nvitop训练稳定性方面WSL2 的 GPU 直通偶尔会出现显存泄漏表现为训练几个 epoch 后显存占用越来越高最后 OOM。这个问题在 CUDA 12.1 加 PyTorch 2.1 的组合下比较少见但如果你遇到了可以在训练循环里定期调用torch.cuda.empty_cache()或者升级到最新的 PyTorch 版本。另外WSL2 的 GPU 直通不支持多卡 NVLink 通信如果你要做多卡训练NCCL 会走 PCIe速度比原生 Linux 慢一些但单机多卡还是能用的。5. 常见问题排查与避坑经验实录5.1 WSL2 启动失败与网络问题“WSL2 尚未准备就绪”这个报错我遇到过好几次通常是因为 Windows 的虚拟机平台功能没启用或者 WSL2 内核版本太旧。排查步骤是先wsl --status看当前状态如果提示内核需要更新就去微软官网下载最新的 WSL2 内核更新包。如果提示虚拟机平台未启用用前面提到的dism命令重新启用并重启。网络问题方面WSL2 默认用 NAT 模式Windows 和 WSL2 之间网络是通的但 WSL2 访问外网有时候会 DNS 解析失败。解决办法是在/etc/resolv.conf里手动指定 DNSnameserver 8.8.8.8 nameserver 114.114.114.114然后sudo chattr i /etc/resolv.conf防止被自动覆盖。不过 WSL2 重启后可能会重置更彻底的方法是在.wslconfig里加上dnsTunnelingtrue这是 WSL2 较新版本提供的 DNS 隧道功能能自动处理 DNS 解析。5.2 CUDA 与 PyTorch 版本不匹配的排查torch.cuda.is_available()返回 False 是最常见的问题。排查顺序是这样的先看nvidia-smi是否正常如果不正常说明 GPU 直通有问题检查 Windows 驱动版本和是否误装了 Linux 驱动。如果nvidia-smi正常但 PyTorch 还是 False检查 PyTorch 版本和 CUDA 版本是否匹配。用python -c import torch; print(torch.version.cuda)看 PyTorch 编译时用的 CUDA 版本跟nvcc --version对比。如果不一致重新安装对应版本的 PyTorch。还有一个隐蔽的坑conda 环境里可能装了cudatoolkit这个包它会跟系统 CUDA Toolkit 冲突。检查conda list | grep cuda如果有cudatoolkit卸载掉conda remove cudatoolkitPyTorch 的 pip 包自带 CUDA 运行时不需要 conda 的cudatoolkit。5.3 磁盘空间回收与 vhdx 压缩WSL2 的 ext4.vhdx 文件只增不减用久了可能占几十 GB 甚至上百 GB。回收方法是先在 WSL2 里清理无用文件比如 conda 缓存、pip 缓存、旧的训练 checkpointconda clean --all -y pip cache purge然后在 PowerShell 里关闭 WSL2用diskpart压缩 vhdxwsl --shutdown diskpart在 diskpart 交互界面里select vdisk fileD:\wsl\ubuntu22.04\ext4.vhdx attach vdisk readonly compact vdisk detach vdisk exit这个过程可能需要几分钟压缩率取决于你删了多少文件。我上次清理后vhdx 从 85GB 压到了 42GB效果很明显。建议每隔几个月做一次。5.4 常见问题速查表问题现象可能原因解决方法nvidia-smi找不到命令未安装 CUDA Toolkit 或 PATH 未配置安装 cuda-toolkit 并配置 PATHnvidia-smi报 No devices误装了 Linux 侧 NVIDIA 驱动卸载 nvidia-* 驱动并重启 WSL2torch.cuda.is_available()为 FalseCUDA 版本与 PyTorch 不匹配重装对应 CUDA 版本的 PyTorchWSL2 内存占用过高未限制内存配置 .wslconfig 的 memory 参数跨系统文件读写慢9P 协议性能瓶颈数据集放 WSL2 内部或增加 num_workersvhdx 文件过大删除文件后空间未回收用 diskpart compact vdisk 压缩DNS 解析失败resolv.conf 被覆盖配置 dnsTunneling 或锁定 resolv.confconda 命令找不到未初始化 shell执行 conda init bash 并重开终端6. 进阶玩法把 WSL2 打造成完整的 AI 开发工作站6.1 VS Code 远程开发与 Jupyter 集成VS Code 的 Remote-WSL 扩展是 WSL2 开发的杀手锏。装好扩展后在 WSL2 里进入项目目录执行code .VS Code 会自动在 Windows 侧打开并连接到 WSL2 环境。你可以在 VS Code 里直接用 WSL2 的 Python 解释器、终端、调试器体验跟本地开发几乎一样。Jupyter Notebook 也可以在 VS Code 里直接跑内核选 WSL2 里的 conda 环境就行。如果你习惯用浏览器版的 Jupyter Lab在 WSL2 里启动jupyter lab --ip0.0.0.0 --port8888 --no-browser然后在 Windows 浏览器里访问http://localhost:8888。WSL2 的 localhost 转发是自动的不需要额外配置。这个特性对于跑一些交互式实验非常方便。6.2 模型训练与推理服务的后台运行训练大模型动辄几个小时甚至几天不能一直开着终端。用 tmux 保持会话tmux new -s train conda activate pytorch python train.py按Ctrl B然后D脱离会话训练继续在后台跑。下次tmux attach -t train就能回到会话看进度。如果想更省事可以用nohupnohup python train.py train.log 21 日志输出到train.log用tail -f train.log实时查看。推理服务可以用 FastAPI 或者 Flask 包一层然后用 systemd 管理。因为 WSL2 启用了 systemd你可以写一个 service 文件放在/etc/systemd/system/下systemctl start启动systemctl enable开机自启。这样即使 WSL2 重启服务也会自动拉起来。6.3 数据备份与环境迁移WSL2 环境配好之后建议定期备份。用wsl --export导出 tar 包放到安全的位置。如果换了电脑或者环境搞坏了用wsl --import几分钟就能恢复。conda 环境也可以用conda env export environment.yml导出依赖列表换机器时conda env create -f environment.yml重建。不过要注意conda env export会导出所有依赖的精确版本有时候跨平台重建会失败。更稳妥的做法是手动维护一个requirements.txt只列核心依赖让 pip 自己解析版本。我一般两个都保留environment.yml用于同平台快速恢复requirements.txt用于跨平台重建。这套 WSL2 加 GPU 直通的方案我从 2022 年用到现在跑过 BERT 微调、LLaMA LoRA、Stable Diffusion 训练整体稳定性很好。唯一需要注意的是 Windows 更新有时候会重置 WSL2 配置更新后如果发现 GPU 不可用先wsl --update升级 WSL2 内核再检查.wslconfig是否还在。踩过几次坑之后我现在把.wslconfig和wsl.conf都纳入了版本管理换机器或者重装时直接复制过去省事很多。