什么是 GPU 经纪商?
发布于
GPU 经纪商是一种中介,帮助企业从并非自己所有的运营方那里采购 GPU 算力,方式包括寻找合适的资源、为双方牵线介绍或转售使用权。不同经纪商之间最大的区别在于一个问题:由谁与买方签订合同、由谁向买方收费。
这个问题决定了节点故障时由谁负责、谁持有您的预付款,以及您和谁谈价格。“经纪商”一词的用法比较宽泛,因此下文将常见的四种模式分开说明,并列出应向每种模式提出的问题。
通过中介采购 GPU 算力的四种方式
| 模式 | 由谁与买方签约并收费 | 典型买方 | 典型期限 |
|---|---|---|---|
| 介绍型经纪商 | GPU 运营方或获授权的转售商 | 需要预留数月或数年集群的团队 | 数月至 5 年 |
| 转售商 | 转售商本身,其算力向运营方采购 | 希望用一份合同覆盖多个来源的买方 | 数周至数年 |
| 交易平台 | 视情况而定:平台本身,或按平台条款由各个托管方签约 | 按需购买或购买短期资源块的团队 | 数小时至数月 |
| 聚合平台 | 通常是底层云服务商,通过统一界面提供 | 比较按需实例的开发者 | 数小时至数周 |
介绍型经纪商。 经纪商将买方需求与供应商进行匹配,随后退出。由供应商确认可用性、与买方签约并直接向买方收费。经纪商通常由供应商支付推荐佣金。RackShore 采用的就是这种模式。
转售商。 转售商购买或租入算力,再以自己的合同转售。您只需面对一个交易对手,但您获得的服务取决于转售商与其背后运营方之间的协议。
交易平台。 平台汇集众多托管方或运营方的算力,通常支持自助下单。例如 Vast.ai 汇集独立托管方的算力,SF Compute 则出售成块的 GPU 使用时长。请阅读每个资源条目的条款:交易对手和支持模式可能因条目而异。
聚合平台。 通过单一控制台或 API 在多个云上启动实例,例如 Shadeform。它适合按需使用的工作,但很少用于采购独享的多年期集群。
什么情况下值得找 GPU 经纪商
当需求规模大、要求具体或期限长时,经纪商的价值最大。例如,需要特定网络的 128 节点 B300 集群、3 年期预留,或者在您不熟悉当地运营方的区域采购。
如果只是按需使用几张 GPU,直接向公有云或交易平台购买通常更快。对于规模小、周期短的工作负载,经纪商很少能拿到比公开自助价格更好的价格。
应向任何 GPU 经纪商提出的问题
- 谁是我的签约对手方,谁向我收费? 在分享详细需求之前,先获取对方的法律实体名称。
- 你们如何收费? 询问费用来自供应商、买方还是转售差价,以及它是否会改变您支付的价格。
- 你们有什么证据证明这些算力确实存在? 具体的运营方、数据中心区域和交付日期才算证据,网站上的一个型号名称不算。
- 签约后由谁处理故障和支持? 答案应指明运营方或转售商的具体团队,并在合同中写明响应时间。
- 我的预付款付给谁? 预付款应支付给实际提供服务的一方,并遵循您已审阅过的合同条款。
我们的经纪商评估评分表把这些问题整理成了可并排比较的形式。
RackShore 的定位
RackShore 是一家只做介绍的 GPU 算力经纪商。买方提交所需的 GPU 型号和数量,价格和租期再通过邮件沟通。RackShore 会联系算力可能匹配的运营方和获授权的转售商。随后由供应商直接与买方签约并收费,并可能根据另行签订的书面协议向 RackShore 支付推荐佣金。
RackShore 不拥有 GPU,不转售算力,也不代管买方资金。
相关问题
GPU 经纪商和 GPU 云服务商是一回事吗?
不是。GPU 云服务商运营硬件并出售使用权。经纪商帮助您找到并对接服务商;在转售模式下,经纪商也可能出售其从服务商处购得的使用权。
GPU 经纪商向买方收费吗?
取决于模式。介绍型经纪商通常由供应商付费。转售商的收入来自您所支付价格中的差价。交易平台可能向任意一方收取费用。请要求对方以书面形式说明收费安排。
经纪商能拿到未公开列出的算力吗?
有时可以。运营方通常通过直销渠道出租大型预留集群,其中部分算力从未出现在公开价格页面上。与运营方有合作关系的经纪商可以代您询问,但只有运营方才能确认配额。
已有明确需求?
提交不具约束力的需求简介,供应和条款由供应商确认。