跳到主要内容

获取代理

代理只是一个容器。它注册你的 GPU,等待任务,运行模型,并回报状态。你只需要安装一次,然后让它一直运行。

没有任何东西需要下载——没有安装程序,没有要放置的二进制文件,也不需要配置 Python。一切都打包在一个 Docker 镜像里,所以你的机器只需要 Docker 和一个 NVIDIA 驱动。

docker pull ghcr.io/neurogrid-ai-exchange/neurogrid-agent:latest

开始之前​

你需要两样东西,都从控制台获取。

一个机器 token。 在控制台添加你的 GPU,它会给你一个形如 ng_live_… 的 token。它只显示一次。代理用它来认领这张显卡,之后再也不需要它。

一个你自己选的密码。 它用来加密保存在你机器上的 token。由你来选,由你 来保管,每次容器被重建时都需要同一个密码——升级也算在内。我们永远看不到 它,也无法帮你重置。

忘记密码意味着要重新注册

保存的 token 用从你密码派生出的密钥加密。换一个密码就无法读取它,所以这台 机器必须用一个新的 token 重新注册。

第一次运行时发生了什么​

  1. 代理启动,发现没有保存的 token,于是使用你传入的那个。
  2. 它读取你的 GPU、CPU、内存、磁盘和大致位置,并完成注册。
  3. 后端检查这张显卡是否和你在控制台里填写的一致。
  4. 控制台把你的 GPU 标记为已确认,代理随即进入空闲状态,等待任务。

从那时起,它每 30 秒发送一次心跳。任务到达时,它会拉取模型、提供服务,并 打开一条隧道,让客户端能够连接到它。

系统要求一览​

最低推荐
操作系统64 位 Linux(内核 5.x+),或 Windows 11 + WSL2Ubuntu 22.04 / 24.04 LTS
GPUNVIDIA,6 GB 显存16–24 GB+ 显存
NVIDIA 驱动575+(CUDA 12.9)最新稳定版
CPU4 核8+ 核
内存8 GB32 GB+
可用磁盘50 GB SSD100 GB+ NVMe SSD
网络下行 25 Mbps,稳定100 Mbps+ 对称

完整系统要求,包括支持哪些显卡 →

然后呢​

  • 保持更新 —— 如何升级到新版本
  • 管理它 —— 启动、停止、查看日志、确认它还活着
  • 收款 —— 钱到底什么时候到账