系统要求
机器本身
| 最低 | 推荐 | |
|---|---|---|
| 操作系统 | 64 位 Linux(内核 5.x+),或 Windows 11 + WSL2 | Ubuntu 22.04 / 24.04 LTS |
| GPU | NVIDIA,6 GB 显存 | 16–24 GB+ 显存 |
| NVIDIA 驱动 | 575+(CUDA 12.9) | 最新稳定版 |
| CPU | 4 核 | 8+ 核 |
| 内存 | 8 GB | 32 GB+ |
| 可用磁盘 | 50 GB SSD | 100 GB+ NVMe SSD |
| 网络 | 下行 25 Mbps,稳定 | 100 Mbps+ 对称 |
只有两样东西需要你自己安装:Docker 和 NVIDIA 驱动。其余的都打包在 镜像里了。
哪些 GPU 能赚多少
显存决定了你的显卡能装下哪些模型,而这又决定了它能以什么价格出租。更大的 显存比更快的速度更值钱。
| 档位 | 显存 | 示例显卡 |
|---|---|---|
| 入门 | 6–8 GB | RTX 2060、3050 / 3060、4060 / 4060 Ti、5060(含笔记本版) |
| 标准 | 10–12 GB | RTX 3080、2080 Ti、4070 / 4070 Ti、5070 |
| 高阶 | 16 GB | RTX 4070 Ti Super、4080 / 4080 Super、5070 Ti / 5080 |
| 高端 | 24–32 GB | RTX 3090 / 3090 Ti、4090 / 4090 D、5090、RTX 4000–5000 Ada、A10 |
| 专业 / 数据中心 | 48 GB+ | A40、RTX 6000 Ada、RTX PRO 5000/6000 Blackwell、A100、H100、H200 |
仅支持 NVIDIA。 AMD 和 Intel 的显卡不支持,Apple 芯片也不支持。代理运行 的推理引擎只兼容 CUDA。
笔记本显卡也算数。一张 6 GB 显存的笔记本 3060,就是一台真正的入门级主机。
网络
- 出站连接到我们的后端、连接到 Hugging Face 下载模型权重、以及连接到 Cloudflare 以承载推理流量的隧道。
- 不需要入站端口,也不需要端口转发。 隧道是出站的,所以代理在 NAT 和 家用路由器后面也能工作,不需要任何配置。
- 稳定比速度更重要。 代理持续发送心跳,一旦停止响应就会被标记为离线。 一条稳定的 25 Mbps 线路,比一条会掉线的快速线路更适合做主机。
切换网络需要重启
Docker 在容器创建时就固定了它的 DNS 配置,之后再也不会更新。把机器移
到另一个网络会在不知不觉中破坏这一点,直到容器重启——安装命令里的 --dns
参数正是为了避免这个问题。参见
故障排查。
供电与在线时间
你的 GPU 只有在线、并且空闲到足以接受任务时才能赚钱。有两件事会在不知不觉 中让主机损失收入:
- 睡眠。 一台进入睡眠的机器会停止服务,正在进行的任务也会失败。
- 在同一张显卡上玩游戏或渲染。 代理会测量空闲显存,所以一张繁忙的显卡 只会收到更小的任务,或者完全收不到任务。
主机不需要是一台专用机器,但它的空闲时间越可预测,获得的任务就越多。
代理对你机器做了什么
- 运行一个容器,有任务时每个任务再额外加一个容器。
- 把任务工作区写到
/var/lib/neurogrid/workloads。 - 把加密后的 token 存在一个 Docker volume 里,而不是你的主目录。
- 需要 Docker socket,这等同于对主机的 root 级访问权限。容器只是一种 打包方式,不是安全边界——请在一台你愿意给予这种权限的机器上运行它。