可编程数据中心:GPU 交易如何走向实物交割

Latent Space6 天前

GPU 算力能否像其他商品一样交易?难点不仅在价格,还在于:买方成交后,能否真正拿到符合要求、可以运行任务的计算资源。

SF Compute CEO Evan Conrad 介绍了公司从转租集群走向算力市场与基础设施运营的过程。其中的关键,是把交易合约与实际交付连接起来。

从转租集群,到运营“整座酒店”

Conrad 用酒店作比喻:最初只是想卖出一间客房,但客人接着要求清洁、送餐和安保。为了满足这些要求,经营者不断补齐能力,最后发现自己已经在运营整座酒店。

SF Compute 的经历与之类似。公司起初尝试转租集群,但为了交付市场上成交的算力,逐步建设了云服务运营所需的多项能力。

这背后是实物交割的要求:买方获得的是可用算力,而不是按照某个价格指数结算的一笔现金。交易平台因此不能只处理订单,还要面对集群运行中的具体约束。

GPU 小时并不是完全相同的商品

相同的 GPU 使用时长,不一定能满足相同的任务需求。交付时需要考虑:

  • 硬件条件:GPU 代际、规格与集群配置是否符合要求。
  • 网络与软件环境:互连能力和软件配置能否支撑任务运行。
  • 中断容忍度:任务是否允许暂停或迁移。
  • 恢复能力:中断后,能以多快的速度从存储中恢复运行。

这些条件都会影响合约与价格。因此,算力市场的难点不只是确定每小时多少钱,还包括界定这一小时究竟交付什么。

不等完全标准化,先撮合不同需求

SF Compute 的做法并不是等待所有 GPU 集群变得可以互换,而是对带有不同约束的订单进行匹配。

Conrad 认为,这让市场能够在技术持续变化时开展交易,但代价是:流动性会分散到更多种类的合约中。 买卖双方的要求越细,能够直接匹配的订单范围就越窄。

现货与远期交易、批量推理与实时推理的租用需求,也都需要纳入市场设计。与此同时,价格指数未必始终等于买方实际采购算力所需支付的成本,现金结算与实物交割不能简单视为同一件事。

独立性为何重要

Conrad 将独立性视为算力市场运营者的重要条件。他认为,拥有大规模硬件或推理业务的企业,可能面临与中立交易平台不同的利益激励。

这也是他解释为什么英伟达未必适合亲自运营此类市场的理由:硬件厂商可能从交易市场的发展中受益,但参与者是否愿意在其运营的平台上交易,还取决于对平台中立性的信任。

这是 Conrad 对市场结构的判断,并不意味着相关企业在技术上无法建设交易系统。

可编程数据中心:交易之外的工程底座

支撑交易的工作往往并不显眼,包括现场考察、集群设计、底层互连基础设施运营,以及让基础设施具备可编程控制能力。

Conrad 提到的一个例子,是动态划分 InfiniBand 网络。它体现了可编程数据中心的方向:不仅允许用户买卖当前或未来的 GPU 使用时长,还能通过程序控制网络、内存等基础设施资源。

从这一实践看,算力交易平台与基础设施运营并非彼此独立。合约定义的是承诺,集群、网络和软件系统负责让承诺兑现。 对使用者而言,评估算力交易方案时,除了报价,也需要关注交付配置、中断条件与恢复能力。

评论

请登录后发表观点

暂无数据