在 NixOS 上配一台 GPU 工作站

2026-09-23

起因很简单:想在本地跑点模型,又不想把驱动装在系统里搞脏。NixOS 的声明式配置看起来很合适。

实际遇到的第一个问题是驱动和内核版本的匹配。NixOS 的 nvidia 包默认跟着某个内核分支走,如果手动指定了 kernelPackages,驱动得跟着一起改,否则构建时才发现不匹配。

第二个问题是 CUDA。nixpkgs 里的 cudaPackages 版本和被 nvidia 驱动支持的版本是一组约束,随便升一个就报错。比较省事的做法是锁定 nixpkgs 的某个 revision,让三者一起动。

第三个问题是容器。想让容器里也能用 GPU,nvidia-container-toolkit 需要在宿主机上启用,而 NixOS 下这一步是通过 hardware.nvidia-container-toolkit.enable 完成的,不是常见的 apt 安装。

折腾完之后确实很干净——整个系统状态在一个配置文件里,回滚只需要改一行。代价是前期要花时间理解它怎么组织这些包。

如果只是想跑个脚本,装 Ubuntu 会快得多。但如果你会反复重装、并且讨厌状态漂移,NixOS 值得。