跳到主要内容

收益是如何计算的

按小时计费,不按 token 计费​

你的 GPU 是按时间出租的,计量器并不关心有多少 token 经过它。一个每小 时只发一次请求的客户端,和一个把你的显卡跑满的客户端,为同样的实际时长支 付同样的费用——你赚到的也一样。

这是故意设计的。按 token 计费会让你的收入取决于别人写 prompt 的效率高 低。

时钟从开始服务那一刻才启动​

一个 deployment 要经过好几个阶段才真正有用:

  1. 排队并匹配到你的 GPU
  2. 拉取引擎镜像
  3. 下载模型并加载进显存
  4. 开始提供服务 ← 计时从这里开始
  5. 客户端使用它
  6. 停止

第 1 到第 3 阶段不计费,在一个大模型上可能需要十分钟甚至更久。这段时 间不会向客户端收费,所以也不会付给你。

这个取舍长期来看对你有利:如果从创建那一刻就开始计费,主机的定价就必须更 低才能保持竞争力。

什么决定你的费率​

你每小时的收入取决于显卡所在的档位,而档位主要由显存决定——显存决定了 哪些模型能装得下,更大的模型租金也更高。

客户端支付的是你的费率加上 20% 的平台佣金。这是两个不同的数字,控制 台展示给你的是你实际收到的那一个。

显存比速度更重要​

一张 24 GB 的显卡即使比一张 12 GB 的更慢,赚得也会更多,因为它能装下那 张小显卡完全跑不了的模型。无论是选择上架什么,还是考虑买什么显卡,显存都 是要看的那个数字。

保持可以接单的状态​

只要你的 GPU 在线,并且有足够的空闲显存,就会收到任务分配。有两件事 会在不知不觉中让主机损失收入:

  • 自己使用这张显卡。 玩游戏或渲染会占用空闲显存,于是你只会收到更小 的任务,或者完全收不到。
  • 进入睡眠。 一台挂起的机器会停止服务,正在进行的任务也会失败。

失败的任务​

在你的机器上失败的任务不会计费,自然也不会产生收益。反复失败还会降低你被 分配到任务的概率。

常见的原因大多是可以避免的:在任务进行中重建容器、让机器进入睡眠、磁盘空 间用完,或者网络变化导致容器的 DNS 失效——参见 故障排查。

监控出现空档​

如果我们有一段时间看不到你的代理,但任务容器从未重启过,那段时间仍然算作 已服务,可以计费。如果 GPU 确实停止了服务,那段空档就不计费。

只要工作实际上一直在继续,无论是我们这边还是你那边出现的短暂连接波动,都 不会因此受到惩罚。