跳到主要内容

系统要求

机器本身​

最低推荐
操作系统64 位 Linux(内核 5.x+),或 Windows 11 + WSL2Ubuntu 22.04 / 24.04 LTS
GPUNVIDIA,6 GB 显存16–24 GB+ 显存
NVIDIA 驱动575+(CUDA 12.9)最新稳定版
CPU4 核8+ 核
内存8 GB32 GB+
可用磁盘50 GB SSD100 GB+ NVMe SSD
网络下行 25 Mbps,稳定100 Mbps+ 对称

只有两样东西需要你自己安装:Docker 和 NVIDIA 驱动。其余的都打包在 镜像里了。

哪些 GPU 能赚多少​

显存决定了你的显卡能装下哪些模型,而这又决定了它能以什么价格出租。更大的 显存比更快的速度更值钱。

档位显存示例显卡
入门6–8 GBRTX 2060、3050 / 3060、4060 / 4060 Ti、5060(含笔记本版)
标准10–12 GBRTX 3080、2080 Ti、4070 / 4070 Ti、5070
高阶16 GBRTX 4070 Ti Super、4080 / 4080 Super、5070 Ti / 5080
高端24–32 GBRTX 3090 / 3090 Ti、4090 / 4090 D、5090、RTX 4000–5000 Ada、A10
专业 / 数据中心48 GB+A40、RTX 6000 Ada、RTX PRO 5000/6000 Blackwell、A100、H100、H200

仅支持 NVIDIA。 AMD 和 Intel 的显卡不支持,Apple 芯片也不支持。代理运行 的推理引擎只兼容 CUDA。

笔记本显卡也算数。一张 6 GB 显存的笔记本 3060,就是一台真正的入门级主机。

网络​

  • 出站连接到我们的后端、连接到 Hugging Face 下载模型权重、以及连接到 Cloudflare 以承载推理流量的隧道。
  • 不需要入站端口,也不需要端口转发。 隧道是出站的,所以代理在 NAT 和 家用路由器后面也能工作,不需要任何配置。
  • 稳定比速度更重要。 代理持续发送心跳,一旦停止响应就会被标记为离线。 一条稳定的 25 Mbps 线路,比一条会掉线的快速线路更适合做主机。
切换网络需要重启

Docker 在容器创建时就固定了它的 DNS 配置,之后再也不会更新。把机器移 到另一个网络会在不知不觉中破坏这一点,直到容器重启——安装命令里的 --dns 参数正是为了避免这个问题。参见 故障排查。

供电与在线时间​

你的 GPU 只有在线、并且空闲到足以接受任务时才能赚钱。有两件事会在不知不觉 中让主机损失收入:

  • 睡眠。 一台进入睡眠的机器会停止服务,正在进行的任务也会失败。
  • 在同一张显卡上玩游戏或渲染。 代理会测量空闲显存,所以一张繁忙的显卡 只会收到更小的任务,或者完全收不到任务。

主机不需要是一台专用机器,但它的空闲时间越可预测,获得的任务就越多。

代理对你机器做了什么​

  • 运行一个容器,有任务时每个任务再额外加一个容器。
  • 把任务工作区写到 /var/lib/neurogrid/workloads。
  • 把加密后的 token 存在一个 Docker volume 里,而不是你的主目录。
  • 需要 Docker socket,这等同于对主机的 root 级访问权限。容器只是一种 打包方式,不是安全边界——请在一台你愿意给予这种权限的机器上运行它。