获取代理
代理只是一个容器。它注册你的 GPU,等待任务,运行模型,并回报状态。你只需要安装一次,然后让它一直运行。
没有任何东西需要下载——没有安装程序,没有要放置的二进制文件,也不需要配置 Python。一切都打包在一个 Docker 镜像里,所以你的机器只需要 Docker 和一个 NVIDIA 驱动。
docker pull ghcr.io/neurogrid-ai-exchange/neurogrid-agent:latest
开始之前
你需要两样东西,都从控制台获取。
一个机器 token。 在控制台添加你的 GPU,它会给你一个形如 ng_live_…
的 token。它只显示一次。代理用它来认领这张显卡,之后再也不需要它。
一个你自己选的密码。 它用来加密保存在你机器上的 token。由你来选,由你 来保管,每次容器被重建时都需要同一个密码——升级也算在内。我们永远看不到 它,也无法帮你重置。
忘记密码意味着要重新注册
保存的 token 用从你密码派生出的密钥加密。换一个密码就无法读取它,所以这台 机器必须用一个新的 token 重新注册。
第一次运行时发生了什么
- 代理启动,发现没有保存的 token,于是使用你传入的那个。
- 它读取你的 GPU、CPU、内存、磁盘和大致位置,并完成注册。
- 后端检查这张显卡是否和你在控制台里填写的一致。
- 控制台把你的 GPU 标记为已确认,代理随即进入空闲状态,等待任务。
从那时起,它每 30 秒发送一次心跳。任务到达时,它会拉取模型、提供服务,并 打开一条隧道,让客户端能够连接到它。
系统要求一览
| 最低 | 推荐 | |
|---|---|---|
| 操作系统 | 64 位 Linux(内核 5.x+),或 Windows 11 + WSL2 | Ubuntu 22.04 / 24.04 LTS |
| GPU | NVIDIA,6 GB 显存 | 16–24 GB+ 显存 |
| NVIDIA 驱动 | 575+(CUDA 12.9) | 最新稳定版 |
| CPU | 4 核 | 8+ 核 |
| 内存 | 8 GB | 32 GB+ |
| 可用磁盘 | 50 GB SSD | 100 GB+ NVMe SSD |
| 网络 | 下行 25 Mbps,稳定 | 100 Mbps+ 对称 |