Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
1/25
2026-10-20

GPU 到期那天,货在哪儿

16 档顶级海外 AI 创投播客图文笔记
16 档顶级海外 AI 创投播客图文笔记@FC
算力能不能当期货卖,争的不是定价,是到期那天谁真把机器交出来。SF Compute 的答案:把整座机房接过来,自己运营。1

这一期讲了什么

按官方 18 段章节顺序整理。凡没有另标来源的,都出自这一期对话本身1;能在官方文件里查到的数字,另外给出处。

01 · 0:00 为什么英伟达做不了这个市场

英伟达做不了这门生意,但它从这件事的存在里获益:一旦由它来做交易所,它就不够中立,没人愿意在上面成交。全片最后一个章节又把这个论证重讲了一遍,并把它扩到所有在需求端站得太重的公司。

02 · 0:25 开场:两年前那次谈话之后

这一期在 AI Engineer NYC 现场录制2,谈论的起点是两年前那次谈话;今天 Jump 宣布进入算力市场,SemiAnalysis 开始覆盖这个市场。1
公司原名 Junelark,是一家做音频模型的实验室。因为签下一年期 GPU 集群却只用了一个月,为了把剩下的转租出去,才做出第一个算力交易所。公司自述现在建机房、建超级计算机,并用允许转租的合约租给客户。3

03 · 2:23 从卖一间房,到经营整座酒店

酒店比喻:客户先要一间房,接着要清洁、要客房服务、要保安;一路补到最后,你已经在运营整座酒店。所以 SF Compute 把一朵云完整的运营能力建了起来,为了真的能把算力交付到手。
「实物交割」借自期货市场:到期不是结一笔现金,而是把东西交出来。

04 · 3:47 实物交割:真的把算力交到手

原油、大豆的实物交割要真的到货,而原油需要管道这张交付网络。2020 年油价为负,是油堵在港口、卖方付钱请人拉走的结果。4
电力市场的对照:锅炉熄火需要时间,这个物理约束必须写进订单簿。算力同理:可不可以被打断、存储能多快恢复,都要进订单。所以订单簿和实物交割是一起设计的。

05 · 6:00 5% 的产能,25% 的退回

市场还不成熟:目前只有 5% 的产能上了订单簿,成交量小,但那部分产能周围挤着大量买卖盘,流动性集中。
他们用的指标是「能退回多少钱」——客户花 100 美元买产能,平均能卖回 25 美元。官方博客把这笔账写得更细:按 4.50 美元/GPU 小时买进的人,实际成本是 3.375 美元。5
合约标准化还很远。要先让运营变成一样的:同一个运营商可以有两种虚机,性能差 40%(GPU kernel launch 慢,最后反映在 MFU 上)。

06 · 8:42 不等标准,先做多约束撮合

不等标准,先做能带多种约束的订单簿:时间、速度、能不能被打断,都挂在委托上,由撮合引擎去匹配。
代价是流动性分散、买卖价差更宽;好处是技术还在变的时候就能生成流动性。能吃多种产能的客户,可以把这段价差赚走。

07 · 10:00 打断、搬运与一条私有互联网

重要的维度:现在还是在跑的产能,还是未来的产能;打断是怎么发生的;底层是不是 WEKA 或 Vast 这类存储,能给多大;以及数据能不能在集群之间搬。
跨集群搬运需要一条快的通路,也就是广域网——一张私有的互联网。但 GPU 机房是挨着电建的,不挨着客户,很多新机房并没有这条路。

08 · 12:20 同一型号,批次不同

同一型号的不同批次质量并不一样。早期 H100、GB200 都出过问题,B300 也踩过同类问题(节目里说,最后是靠 Devin 去修的)。
「烧机」(burn-in)是云的活:在机器到客户手里之前尽量把坏的逼出来,坏节点走 RMA 换新,客户不必经历。还有一类是固件 bug,比如 Super Micro 盒子里的问题,解决办法是更新固件或整批换新。

09 · 14:32 合约能挂到三到五年

集群按三到五年融资,付款铺在这段期间;订单簿上的区块可以挂到三年后,也可以只买下一个小时。
现金流上,区块现在要求全额预付,更长的租约不要求。

10 · 16:19 批处理与在线推理,两种打断价

批处理任务提前一小时通知就够,甚至一两分钟也行;在线推理的客户要一个月到三个月,因为背后有对客户的 SLA。
所以这实际上是「打断租约」的市场,定价取决于打断你要付多少。框架像电力市场:一个日前市场,一个实时市场。

11 · 17:58 驼峰曲线,和一个必须变的数

价格曲线是驼峰:临近交付、还没卖掉的算力必须降价才能清掉(像快过期的牛奶);再往远处,价格反而低下来,因为大家愿意为「更短的等待」付钱。
最刺眼的数是套利:一张 B300 跑推理一小时能挣约 40 美元,五成利用率约 25 美元,而买入只要 5–6 美元一小时。「这两个数里有一个必须变。」

12 · 20:33 没有炼油厂,就没有通用算力单位

不能把算力抽象成一个通用单位:显存、NVLink 域、代际都算数。油有炼油厂可以把不同油变成标准品,算力没有;市场能做的是降维,不是假装它们一样。
所以 SKU 由买家定义:「Blackwell,6 美元一小时以下都行」本身就是一张委托;撮合引擎自己去 GB300、B300 里找。具名查询是新功能,但查询系统本身就是订单簿的工作方式。

13 · 23:30 实物交割对现金交割

没有实物交割的市场有两个毛病:指数容易被操纵,以及基差风险——你用来对冲的价格,和你真正能买到产能的价格可以毫无关系。
他举的对照是信用违约互换:主持提到这类市场的名义规模可以是标的债券的十二倍,现金交割成了「边注」。他的结论是现金交割是好东西,但必须从实物交割里长出来,先有实物、再有其衍生品。
LIBOR 的教训:十二家银行报一个价,就能定义全世界在用的利率,后来被证明可被操纵6。用数据稀薄、和真实成交不相关的指数去结算,在他看来是同一类问题。

14 · 27:00 正在长出来的生态

他把这个版图分成几类:做标准的(SemiAnalysis)、做现金交割与指数的(Silicon Data、Compute Exchange)、做残值保险的、给云厂垫付信用风险的。买方、卖方、分析师、保险,缺一样市场就转不起来。
外部事实可以对照:2026 年 10 月,Jump 招走 Itô 的创始团队建算力交易台,DRW 孵化 Compute Exchange 与 Silicon Data;CME 基于 Silicon Data 的 H100/B200 指数做期货,仍在等 CFTC 批准,ICE 与 Nodal 也在跟进。7

15 · 29:03 交付一个集群要做什么

「云做的所有事我们都做,但我们不是那朵云」:不拥有硬件,因为拥有硬件就有能力操纵自己开的远期市场,必须做瑞士。
交付一个集群要做的事:现场踏勘、物料清单、供应链(和 OEM 的关系)、集群架构、上架、背板(PDU、交换机、DPU、UFM、BMC)。这些都要求内部有专业能力,但不自己施工。
商业模式是超级计算即服务:对方有电、有地、有机房,他们负责超级计算这一段和包销;有人形容这是「算力界的 Palantir」,因为每一单都是新的 rodeo。

16 · 32:24 主权算力

他们在世界各地部署集群,客户是想在自己国家变成云的主权玩家:把旧金山的包销和专业能力带过去,帮对方建云。
能点名的伙伴一个都没有,节目里说一两周内会有宣布。

17 · 33:26 为什么云厂都做不了

Crusoe、CoreWeave、Lambda、超大规模厂商、Base 10、Fireworks、Modal 都做不了:他们在需求那一头站得太重。这件事让整个行业的融资成本下降,但只有愿意放弃大额推理生意和云大单的人能做——「你得先杀死自己的生意」。
他补了一句商业模式的本质:你做的事是减少摩擦,这就是你全部的收入。

18 · 34:48 里程碑,与可编程的数据中心

里程碑:关掉了几亿美元的成交额,新集群在路上;官方口径是向一家头部 AI 公司卖出 2.45 亿美元算力,两份 36 个月协议、两套 B300 集群8。
对平台型公司最有用的功能,是客户可以自己切分 InfiniBand 网络,不用来问他们9。这就是「可编程的数据中心」:把拥有硬件才能拿到的一切虚拟化。
行动号召写给想拥有集群的人:你出钱、拿残值,他们建、他们运营、他们担 SLA;如果后来不成立,可以立刻转手,不砸在报表上。

几处口径

  • 口径一:成交额。 节目里说的是「几亿美元的成交额」,官方口径是 2.45 亿美元(2026 年 9 月 10 日,两份 36 个月协议、两套 B300 集群)8。
  • 口径二:只有节目说过的数。 B300 跑推理约 40 美元/卡·小时、五成利用率 25 美元、买入 5–6 美元;订单簿上只有 5% 产能;两种虚机性能差 40%;B300 的固件问题靠 Devin 修。这些都没有第二份公开来源,卡片上标为「节目中的说法」。
  • 口径三:说话人。 官方逐字稿只有时间戳,没有逐轮标注说话人;译文里的「主持」「埃文」是按问答关系与上下文判定的,简短的应和句并入相邻一段。
  • 口径四:公司与融资。 SF Compute 2025 年 11 月 26 日宣布 4000 万美元 A 轮、投后 3 亿美元,DCVC 与 Wing 联合领投,Electric Capital、Alt Capital 跟投10;Abel 是它记录每个 node-hour 归属的结算账本11。

逐句全文翻译

底稿是这一期的官方逐字稿(RSS 里自带的完整文本,62 段、约 7,490 词,覆盖 00:00 到 36:43)。下面按官方 18 段章节顺序逐句译出,只保留中文,保留「主持/埃文」的说话人标签,不压缩、不摘要、不删减;原文里的语气词与重复已按中文习惯合并,论点、数据、例子一句不少。

01 · 0:00 为什么英伟达做不了这个市场

主持:英伟达显然是这屋里那头八百磅的大猩猩。它为什么没自己做一个 SF Compute?
埃文:我们的判断是,英伟达做不了,但它从这件事的存在里拿到的收益极大。做不了的原因是:它一旦自己做,就不够中立,人们不会在上面成交。

02 · 0:25 开场:两年前那次谈话之后

主持:总之,埃文,欢迎回到 Latent Space。
埃文:谢谢。欢迎回到 AIE。其实我是第一次来。
主持:好像是。这一期挺特别,因为你做算力交易、做算力市场已经有一阵子了,而现在正是这件事的当口。
埃文:是啊。
主持:Jump 基本上宣布他们要进算力市场,所以我很兴奋能把大家聚到一起。你见了 SemiAnalysis 的 Oliver,我的理解是他开始覆盖算力市场了。这样一来,大家会去看你的演讲。
主持:我觉得你把来历、为什么这件事必须存在、以及那些硬问题都讲清楚了,讲得简单又抓人。我很嫉妒你的写作能力——你给我们看了你在 AIE 放的那张单页。
主持:它就是直接、简单,而且好。总之,恭喜。
埃文:谢谢,我很感激。也恭喜 AIE,感觉你们一直在往前滚。
主持:我们在往前滚。我刚从明年 AIE 的场地踏勘回来。
埃文:有什么线索吗?
主持:在 Javits Center,就是他们办 Comic Con 的同一个地方。
埃文:哇。好吧。
主持:但我感觉金融这个方向是真的打中了人。所以我们打算把它拆开。现在这里把所有东西都塞进「金融」——你的金融、他们的金融,保险也算金融,但它们彼此差得很远。以后大概会拆得更细,因为有人想深挖对冲基金、银行、个人理财。
埃文:尤其在这儿的纽约。
主持:Anthropic 就说,我们现在全都在做 RIA。RIA 就是注册投资顾问。跟你完全不是一回事。
埃文:对,这个我知道。
主持:好。对不了解的听众说一句:两年前我们做过一期播客,你聊过当时的 SF Compute 在哪一步。今天的你更偏「实物交割」,你在讲你的背板——是叫背板吧?
埃文:背板。
主持:那显然需要很多硬核工程。能不能给大家一个进度更新:跟两年前听过你的听众比,SF Compute 现在到哪儿了?
埃文:我们起步时是一家叫 Junelark 的公司,当时只是想把自己的集群转租出去,我们从技术栈最下面那一层开始做。

03 · 2:23 从卖一间房,到经营整座酒店

埃文:可以这么想:你在酒店里,想把一间房卖出去,然后有人问你,你会打扫我的房间吗?你说,哦,那我大概还需要一间打扫间。于是你去拿了打扫间,接着他们要客房服务,你又要了厨房;然后他们要安保,你又拿了安保间。这样一路补下去,到某个时刻你发现,你其实在运营整座酒店。
埃文:而你一旦在运营整座酒店,你就会说:等等。我在这个市场上的上游供应商,看起来更像一只基金,或者更像一朵能接触到机房的云。那我们就再往上走一层。所以过去这几年我们做的,是把一朵云完整的运营能力建起来——为了真能稳定地把算力交付出去。我们把这叫做实物交割。
埃文:这个名字是从期货市场借来的。

04 · 3:47 实物交割:真的把算力交到手

埃文:在原油或者大豆这些市场里,实物交割意味着你真的拿到油、拿到大豆。但在某些市场,比如原油、比如电力,中间还有一张交付网络:原油要有管道,油才到得了你手上。
埃文:做金融的人大概记得,新冠那阵子油价变成负数:油堆在港口,我付钱请你把它拉走。
埃文:那就是实物交割的怪处——我付钱让你拿走我的油。别的市场也有这一类怪事。电力市场和电网里,买盘和卖盘的委托单上有一些字段,是因为锅炉熄火要时间:你可以停掉锅炉,然后在一段时间内再点起来,这件事必须被算进订单簿。
埃文:算力市场也是同一类问题。所以我们把实物交割和订单簿放在一起设计,这让我们可以真的处理算力的真实约束——比如:我可以被打断,但前提是那台机器上有存储,能让我很快恢复。
主持:听众可以参考你的演讲,你也上过几期别的播客。所以我想问的是 201 级的问题,不是 101 级。也因为我自己做过衍生品交易,可以多给大家一些细节。比如:今天的算力市场有多成熟、多深、多有流动性?
埃文:不算成熟,也不深,流动性不强。我们一直在做的是:先把供给弄上线,这本身就要时间;再把整套平台建出来。我们刚把它跑通,现在正把产能搬上订单簿,让它有流动性。
埃文:目前我们总产能里有 5% 在订单簿上,而且一直在往里搬,新上线的产能也都会直接上簿。

05 · 6:00 5% 的产能,25% 的退回

埃文:有一点要说清楚:订单簿上的成交量还小,但流动性很集中——对那部分产能来说,周围挤着大量买卖盘。
埃文:我常用的一个指标是:客户在我们这儿花 100 美元买产能,平均能通过卖回给别人收回 25 美元。这是我们追踪的指标之一,因为我们希望这点流动性对商业参与者真的有用。流动性的衡量方式很多,你可以说我要很多做市商;我们更愿意用「它有没有解决客户的问题」来量。
主持:明白了。上次我们聊的时候,很大一部分在讲合约标准化,比如和 CFTC 打交道之类。那些事现在什么状态?
埃文:合约标准化整体上还很远。我们这几年学到的是:你得自己运营整件事,否则没法标准化。
埃文:要走到可标准化,第一步是把运营做成一样的。举一个能差在哪里的例子:同一个运营商可以有两种虚机,其中一种的性能可能比另一种差 40%。40% 是很大的差距。
主持:你说的性能差,是指 MFU 这类,还是你踩过的烧机问题?
埃文:会影响到。这里我具体说的是 GPU kernel launch 要花多久——训练和推理里这件事发生得非常频繁,最后的结果就是 MFU 变差。我指的是中间那一层。
主持:做过商品的人知道,商品是分品级的:不是「油」,而是轻质低硫原油,或者它的反面;也不是「玉米」,而是 A 级玉米、B 级玉米。大家要去建立这些等价关系。我想知道,这些等价关系建立起来了吗?

06 · 8:42 不等标准,先做多约束撮合

埃文:所以我们换了做法:做一个能带多种约束的订单簿。你可以说,我要在这个区间之内、从某个时间到某个时间、X 到 Y,一堆属性都能挂在委托上;然后用一个大撮合引擎去匹配带这些属性的卖单。
埃文:这么做的好处是,不用等标准定下来就能生成流动性。因为技术在快速变化,我们希望先能交易。代价是流动性没那么集中。
埃文:于是买卖之间的价差会更宽。这挺难受的。但反过来,如果你能把这价差做对,就有很多套利可赚。所以如果你的产品能吃很多种产能,你可能会很喜欢 SFC:你能用上很多种产能,也能把价差赚走。
主持:那这张网格里,哪些维度是重要的?
埃文:很多。一类是:这台机器上现在有没有跑着负载,还是未来的产能。
埃文:现在的产能,你要卖它,就得打断你手上正在跑的任务,所以你得想清楚在不在乎被打断。一个月后才开始的产能,可以随时买随时卖,流动性很容易就有。
埃文:但大家会担心:我下个月有产能,和现在打断一个任务,是两件很不一样的事。打断是怎么发生的很重要。举个例子:如果你的集群存储没那么好——它底下是不是有 WEKA 或 Vast 这类系统,你给多大——

07 · 10:00 打断、搬运与一条私有互联网

埃文:这决定了你怎么响应被抢占、被移出集群。同时存储的位置也重要:如果数据能从一套集群很快挪到另一套,你也许就能跨多个集群铺开。这边被打断,那边立刻起来。
埃文:要做到这一点,你还需要集群之间有一条快的通路。通常这是靠广域网实现的,但今天在建的很多集群并没有广域网。
主持:广域网。
埃文:对,广域网——就是把这些集群连起来的线,你可以理解成一张私有的互联网。
埃文:很多集群不再是挨着传统 CPU 集群、为 latency 挨着客户建的;GPU 集群是挨着电建的。电在哪里,机房就建在哪里,而不是客户在哪里。
埃文:这就意味着很多东西被放到以前没人预期会有机房的地方,于是从一处到另一处的通路可能并不好。这时候它就开始起作用了。还有些怪东西,我们理论上支持、实际没做,正在想。比如早期的 GB200 会坏,早期的 H100 会坏。所以如果你在买 H100 或 GB200,你可能会很想要某个时间点之后出厂的那批——你不想拿到货架上第一批烂的。
主持:所以是「批次」的问题:它们是哪一批生产的,而且会越做越好。第一批货架上拿下来的可能有毛病。
埃文:对。如果你拿的是第一批、第一批 shipment 里的机器,它们就是坏的,或者某方面有问题。
主持:我以为流程是这样的:缺陷到处都是,这很正常。你从台积电或者谁那儿拿到一批新货,跑测试,找出哪些是坏的,扔掉。

08 · 12:20 同一型号,批次不同

主持:我不知道还有「批次」这一层:比如 2026 年四季度的 B300 比 2027 年的 B300 差很多。
埃文:你说的其实是 burn-in。拿到一套集群,好的云会做的第一件事,是尽量把这些 GPU 弄死——在它们到客户手里之前。坏掉的 GPU、坏掉的节点走 RMA,你申请退货、换新,中间有交期,
埃文:但总能换回来,客户永远不用经历这些。我说的另一件事是:早期 H100 上有固件 bug,而且未必和 NVIDIA 有关。可能是 Super Micro 在你买的那个盒子里有固件 bug,它适用于所有同批机器。解决办法是让他们更新固件,或者每一台新盒子都换新发过来。
埃文:我们这批 B300 也遇到过,最后得靠 Devin 去把它修好。这类问题会以不同形态出现。
主持:有意思。那看起来是小事,跟整体比很小。我只是想让大家理解这个市场的形状——你提到抢占,我们聊过 spot 实例,那个类比是这样。然后还有提前一个月订。这些市场能延伸多远?实时或者抢占,跟更远的合约比,哪个你更感兴趣?

09 · 14:32 合约能挂到三到五年

埃文:回答你第一个问题:三到五年。我们开始看到——你问的是现金流怎么走,还是合约、期货合约?
主持:我本人是做过合约的衍生品交易员。市场本身、更广的市场,合约能挂多远?
埃文:集群是按三到五年融资的,付款也铺在这段期间。我们的订单簿上还有区块,时间可以任意长。
埃文:现金流上现在有些事我们要处理:对区块,我们现在要求全额预付;更长期的租约不要求全额预付。这里要一块白板才讲得清。你刚才还有一个问题我忘了。
主持:你是要实时,还是更长的时间?
埃文:我们更在意更远的期限,因为我们要建一条流动性足够的远期曲线。这两件事既相同又不相同。
埃文:你可以买一个小时后,也可以从此刻买到未来三年,中间任何一段都行。
主持:这太夸张了。
埃文:我知道。所以技术上,每个客户身上会发生一些差别。比如我跑的是批处理推理,随时可以被打断,我不太在乎——

10 · 16:19 批处理与在线推理,两种打断价

埃文:那我大概需要提前一小时得到通知,甚至提前一两分钟也行。但如果我有在线的推理客户,他们指望我在线,那你可以打断我,但得提前一个月、也许两个月、三个月,我好在这段时间里调整产能。
埃文:你不能一分钟内把我掐掉。这两件事的定价完全不同。
埃文:因为它们问的是:你愿意为打断一个批处理任务付多少钱?这和打断一个在线任务的价格完全不一样。在线任务这边,中断通常意味着你对客户违约、要赔 SLA。
主持:明白。所以这其实是「打断租约」的市场。
埃文:这就是打断租约的市场。另外还有未来租约的市场。
主持:我还以为是转租的场景。这更像提前解约。
埃文:可以这么理解:电力市场其实有两个市场,一个是日前市场,
埃文:一个是实时市场。算力也差不多:一部分是正在上线、或者即将交付到你手上的产能,一部分是正在被使用的产能,两者的价格动态不同。
主持:有意思。是 backwardation 还是 contango?
主持:也就是说,远期的算力比现货贵,还是便宜?这条曲线在未来一年、两年是往上还是往下?

11 · 17:58 驼峰曲线,和一个必须变的数

埃文:两个阶段都会出现。取决于你是谁。
主持:你居然不知道,这挺有意思。
埃文:我是说,两种都有。我来讲讲理由。你问的是同一单位算力:今天、一个月后、一年后、两年后,这条曲线是往上还是往下?我们看到的是一个驼峰。
主持:天啊。那你解释一下。
埃文:我觉得这很直觉:如果我有一批牛奶快过期了,我会降价。我们看到的差不多就是这个。
主持:这基本上就是英伟达的发布周期,对吧?
埃文:我们更愿意这么说:如果有一块算力正在逼近现在,它没法在过去卖出去,所以它必须降价,才能以某个价格清掉。所以一开始你会看到价格往下掉——现在还在市场上挂着的,都是没卖掉的,于是价格会掉。
埃文:然后它涨到它该在的位置。再往远处,未来的算力也许更便宜,因为大家想要现在的算力,是在为「更短的等待」付钱;离得越远,付得越少。
埃文:我认为这就是一条正常、健康的曲线。真正让我说「不会吧」的地方是:现在你拿一张 B300 去跑推理,一小时大约能挣 40 美元——任何模型基本都行,前提是跑满。如果你只有五成利用率,那就是 25 美元一小时。
埃文:与此同时,你买 B300 只要五到六美元一小时。这两个数里有一个必须变。这是巨大的套利。
主持:你在演讲里也讲了这个。
埃文:所以很多人看到这一点会想:如果我认为价格会涨,我可能愿意为未来付更高的价。因为我想,现在我能用五美元买,但以后可能买不到了,那我就愿意为「以后能上线」多付一些来锁定。所以反过来的一面我们也看得到。这取决于你是谁。
主持:明白。我想把这一点说得非常清楚:你在乎不在乎芯片的代际?还是只在乎总的 flops,随便什么芯片都能铺开?

12 · 20:33 没有炼油厂,就没有通用算力单位

埃文:我们在乎芯片的代际。
主持:你在乎。我是说,你的客户在乎吗?
埃文:在乎。
主持:你说不同代际,是指 B300 这样的吗?
埃文:对,B300,甚至是 AMD 之类。人们完全在乎芯片是哪一代。一部分原因是显存,另一部分原因是更大的 NVLink 域这一类东西。
埃文:所以没有办法把这一切抽象成某种「通用算力单位」,然后随便揉来揉去。你刚说油,其实油也不是油,油就是一堆不同种类的油。
主持:对,航空燃油、车用燃油。
埃文:我认为是一样的,你会得到很多种。但油有炼油厂——你可以把油倒进去,出来就是某个标准的东西。算力太异质了,你只能把底层的复杂度暴露给终端客户,这对做市的人来说是坏事。
主持:所以你想要找到那个卡点,或者说谢林点:大家都同意,好,这就是标准,我们都按这个来,它会有一些低效。
埃文:对。我们已经把问题降到了某个层级,但仍然有维度存在。
主持:你的工作就是降维。
埃文:我们减掉了很多维度,但维度还是会在。
主持:你知道自己有多少个 SKU 吗?
埃文:五乘一百乘五千,等于多少我也不知道。我们其实把 SKU 做成了一个概念,目标是让别人能定义自己的 SKU。比如我想买 Blackwell,我可以说:只要每小时 6 美元以下,Blackwell 都行。
埃文:你就可以把我匹配到 GB300,或者匹配到 B300,我不在乎是哪一种 Blackwell,只要低于 6 美元一小时。
主持:但你刚说你在乎显存这些东西。
埃文:当然。但不是每个客户都在乎。有些客户在 Blackwell 上就能跑;有些客户极其具体,非要这一种,那他们就要多付钱,因为市场会向他们多收。
埃文:这就是我们在做的事。所以人们用我们的 API 用程序化地定义自己要什么,我们再把它和能供货的卖家组合起来。
埃文:对,还有一个附加说明:具名查询是我们正在做的新东西,但查询系统这个概念,就是订单簿现在的工作方式。
主持:有意思。好,我觉得这些已经很细了。有没有什么你想教育大家——不管是金融的人还是工程师——关于算力交易市场现在的状态?因为实际上是你们在定义它。
埃文:主要是实物交割这个前提。我们花了三年才弄明白为什么需要实物交割。

13 · 23:30 实物交割对现金交割

埃文:今天整场对话其实就在讲:这些东西没有你以为的那么可替代,我们会试着让它们变得可替代,这是行业该做的事。但在那之前,如果你过早地做太多金融化、还没等行业把实物交割建起来,你会承担很多风险。
埃文:我认为那样的市场很容易被操纵,而且有很大的基差风险:
埃文:你用来对冲的价格,可能和你真正能买到产能的价格毫无关系。
主持:对听众说一句:我们上次简单聊过,人们常常惊讶地发现,信用违约互换市场的规模是它承保债券的十二倍,或者按揭再保险这类市场比标的实物大得多。这就是实物交割和现金交割的区别。现金交割基本上就是《大空头》里那种边上下的注,
埃文:它和标的物本身可能有关,也可能无关,也可能被当作其他东西的代理。你不希望它失控。
埃文:说清楚:我们认为现金交割作为一种未来合约是好主意,只是它应该从实物交割里长出来。因为它是一种边注。
主持:这有点像你还没做实物交割就先做了现金期货。而我觉得人们已经在这么干了。
埃文:对,人们在实物交割之前就试图做现金交割。他们对很多东西都这么干,包括创业公司的股票。
主持:对。你可以买卖一份虚构出来的 OpenAI 股份,但它和真实的股份没有关系。很多这种事最后都很糟。如果你开始对一个还不存在的股票卖衍生品,那会挺糟的。
埃文:我们做的一件事——我以前是外汇交易员,也做利率——在那些市场里,有一个委员会坐下来宣布:这就是伦敦银行间同业拆借利率 LIBOR,我们都同意这是月度定盘价,然后所有人都按这个定盘价交易。
埃文:问题是,三年后这个定盘价还有意义吗?关键是 LIBOR 被操纵过。
主持:十二家银行?
埃文:对。我们现在的担心是存在一个非常相似的问题:指数可以被操纵。我们的判断是,之所以能被操纵,是因为很多指数建立在一小部分数据上,而这些数据和真正签一份新的预留合约的价格相关性不高。这就是我们担心的。
主持:有意思。好,我觉得现状大概就是这样。今天的另一部分是:你聊到 Jump 的那场活动,你和 Silicon Data 的人也熟。你从这些玩家身上学到什么?哪些人你会点名说在做有意思的事?
埃文:我们很欣赏 Silicon Data 和 Compute Exchange。他们也很早,我觉得他们在一条合理的路上,我们很可能最后会成为伙伴。

14 · 27:00 正在长出来的生态

主持:能说说你们路径的区别吗?
埃文:大体上,他们做现金交割,我们做实物交割。我们认为两者都可以存在、也应该存在,而且互相有利。所以他们是最早进入这个领域的一批,很明显在别人之前就下了这个注,我觉得这很值得尊敬。
主持:你提到 Jump、SemiAnalysis,这些玩家都在冒出来。对我来说,你是第一个把我带进这件事的人,然后我看到这么多人进来,我想,好,确实有事在发生。
主持:我对这个版图没有你清楚。
埃文:我们看到的几类人:一类在试着制定更好的标准,SemiAnalysis 就在做这件事;一类在做残值保险;这个领域有好几家公司,我并不都熟,但我知道这个概念,我觉得它重要;还有一类在做存款、借贷,等于替云厂垫付信用风险。围绕「怎么解决算力的财务瓶颈」,一个生态正在形成。
埃文:看着挺酷的。这个生态里你想要的其实是买方和卖方,一个分析师,还有保险、残值这类东西。我们希望外面有一个健康的生态。当然,你们握着实物交割这个难题,这很有意思。
主持:好,那我们也可以聊硬技术那一面,因为你们也在招极其厉害的工程师。描述一下你们的栈。
埃文:云做的所有事我们都做,但我们不是那朵云——我们不拥有硬件。

15 · 29:03 交付一个集群要做什么

埃文:不拥有硬件的原因是:如果我们拥有,我们就有能力操纵远期市场。所以我们必须做瑞士,必须独立。这给公司带来很多奇怪的地方。
埃文:但要做实物交割,你就得去现场看机房,得设计物料清单,得做供应链咨询——和各家的 OEM 建立关系,确保东西按时到。
埃文:然后你要做集群架构,也就是设计集群本身;接着上架,或者和伙伴一起上架并监督;然后是背板管理——接管 PDU、交换机、DPU、UFM 和 BMC,运营节点外面那一整套线束。
主持:你说「你」,是指 SF Compute 的员工?
埃文:对。你从一朵云那里买一个节点,裸金属是裸金属,但裸金属外面还有一堆东西。
埃文:要让那台裸金属节点工作,你得把其他一切都运营起来。
主持:因为传统上,这些事情是机房替你抽象掉的。
埃文:对,我们就是做这件事的人。
主持:但你们不是机房生意,不是 Equinix 那种。
埃文:我们不完全算机房生意。我们做的是「超级计算即服务」。有人来找我们说,
埃文:我这里有 X——X 就是我有 X 兆瓦,有时候他们指的是我有一个机房——我想把它变成 GPU 集群。我的选择是:把集群卖掉,或者把机房卖给别人,或者自己变成云。
埃文:然后我们去跟他们说:很好,我们把你变成云。超级计算这部分我们做,机房是你的,我们合作。然后我们来卖,钱由我来挣。有时候对方只有一块能变成机房的地,那我们就等于把项目一直管理到那一层。
埃文:然后我们和这些人合作,把他们那块有电的地——不管他们有什么——和伙伴一起变成机房,再从超级计算这一段接手。
埃文:这要求我们在内部有一点机房的专业能力,但我们不自己施工。所以它是有点模块化的,因为你要应对不同的情形。有人形容我们是「算力界的 Palantir」,因为每一次都是新的 rodeo。
埃文:我们和两边的伙伴都深绑。主要在美国,但我们也在世界各地运营。
主持:到某个时候,SF Compute 这名字会变成用词不当吧?
埃文:我们正在世界各地部署集群。这样做的时候,我们是在和那些想在自己那里变成云的人合作。他们看起来像主权算力的玩家。

16 · 32:24 主权算力

埃文:我们对主权算力的说法很好:让我们帮你在你自己的国家建一朵云,我们把旧金山的包销带过来,把旧金山的专业能力带过来,把集群搭起来。这就是我们的整个生意。
主持:你们能点名的最大的、已宣布的伙伴是谁?
埃文:一个都不能说。
主持:真的吗?
埃文:我们一两周内会有一些宣布。
主持:好,祝顺利。对所有在投主权 AI 的国家来说这都很有意思,而且有意思的是,旧金山这个名字还是那个品牌,很能卖。
埃文:我觉得有意思的一件事,就是把市场想透。英伟达显然是那头八百磅的大猩猩,它为什么没做一个 SF Compute?答案还是市场操纵。但我们认真看一下各个玩家的激励。
埃文:我们的判断是,英伟达做不了,但它从这件事存在里获益极大。做不了的原因是:它一旦做,就不够独立,人们不会在上面交易。如果没人交易,就没有足够的流动性让贷款人拿远期市场去做融资。

17 · 33:26 为什么云厂都做不了

埃文:这也是为什么 Crusoe、CoreWeave、Lambda 做不了,为什么超大规模厂商做不了,为什么 Base 10、Fireworks、Modal 做不了——他们在需求那一头站得太重。
埃文:这件事对整个行业有好处,因为它让融资成本降下来。但除非你放弃赚大钱的那部分推理生意和云大单,否则没人做得了。你得先杀死自己的生意,才能做这件事。所以没人做。结构上他们就不是这么搭的。而你做的事,本质是减少摩擦,这就是你全部的收入。
主持:你们公布了一些里程碑。我前面忘了说。能不能重复一下,顺便稍微炫耀一下?
埃文:我们关掉了几亿美元的成交额,有相当数量的新集群在路上。我最兴奋的是,我们发布了一堆新功能,让 SF Compute 对平台即服务的公司非常可用。一个例子是,我们让客户可以自己切分

18 · 34:48 里程碑,与可编程的数据中心

埃文:自己的 InfiniBand 网络,不用来问我们。很多云卖给你的时候只给你一张 InfiniBand fabric,你想重画这张网的线,得联系他们,他们再替你做点什么。我们现在可以给客户实时做这件事,我觉得很好,因为它和市场的接口很顺——你要扩缩你的集群,就得能重画这些线。
主持:你会把这描述成:把数据中心虚拟化、让它可编程吗?
埃文:对,我们在虚拟化数据中心,让它可编程。
埃文:你如果自己拥有硬件,本来能拿到的一切,我们都在试着把它虚拟化,这让我很兴奋。上一次发生这种事,是云。
主持:最后,你对大家的行动号召是什么?是工程师?是「把你的供给给我」?
埃文:如果你想拥有一个 GPU 集群,想拿它的残值,想把它放进你的投资组合,我们很愿意和你一起把这个集群建起来。我们接手超级计算那部分,
埃文:确保一切正常,SLA 由我们担。如果后来发现这是个坏主意、你需要退出,我们可以立刻把集群卖给别人,不让它砸在你的报表上。很简单的说法。
主持:非常感谢你的时间。你在为这个行业做一件好事,我很高兴能做你的朋友。
埃文:谢谢。好,就到这里。

References

  1. 1
    The Programmable Data Center — Evan Conrad, SF Compute

    latent.space

  2. 2
    How Compute Markets Work — Evan Conrad at AI Engineer NYC

    ai.engineer

  3. 3
    About | SF Compute

    sfcompute.com

  4. 4
    Why oil futures went negative in 2020

    eia.gov

  5. 5
    The average customer now saves 25% with SFC

    sfcompute.com

  6. 6
    CFTC: Barclays and LIBOR manipulation

    cftc.gov

  7. 7
    Jump Trading and DRW commit traders and capital to compute power contracts

    cryptobriefing.com

  8. 8
    San Francisco Compute sells $245M worth of compute

    sfcompute.com

  9. 9
    Introducing Elastic InfiniBand Partitions

    sfcompute.com

  10. 10
    SF Compute raised a $40M Series A

    sfcompute.com

  11. 11
    Abel, the ledger that settles compute on SFC

    sfcompute.com

16 档顶级海外 AI 创投播客图文笔记
16 档顶级海外 AI 创投播客图文笔记@FC

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

Comments