AI 产品更新日报｜2026 年 10 月 21 日：Google 让 PyTorch 直接跑上 TPU，350 亿美元的英伟达订单只到得了 5%–10%
本期覆盖 10 月 20 日 08:00 至 10 月 21 日 08:00：Google 开源 TorchTPU 让 PyTorch 原生跑上 TPU，中国三家 350 亿美元的英伟达订单可能只交付 5%–10%，DeepSeek 开源推理框架 DeepInfer、蚂蚁百灵开源 Ming-3.0 语音模型，ChatGPT 上线对话上锁，Perplexity 把 Computer 搬进 Mac 本地，Meta Muse 公布 40 天下载与留存数据。
本期覆盖 2026 年 10 月 20 日 08:00 至 10 月 21 日 08:00（北京时间）。
周二的两条主线都落在算力上。英伟达告诉合作伙伴，中国三家大厂下的 300 万张显卡订单，可能只交得出 5% 到 10%。
同一天，Google 把 PyTorch 接到自家 TPU 上的 TorchTPU 开了源。
隐私这条线上，OpenAI 给 ChatGPT 加了对话上锁，Perplexity 让整段任务跑在 Mac 本地。
国内厂商交出了两份开源：DeepSeek 开放内部推理框架 DeepInfer，蚂蚁百灵开源 Ming-3.0 语音模型系列。
今天先看七条动态
| 发布主体 | 核心变化 | 关键数字 | 对读者意味着什么 |
|---|---|---|---|
| 英伟达 | 中国三家的 300 万张 RTX PRO 5500 订单，公司表示无法保证按单交付 1 | 标价逾 350 亿美元；可能只供 5%–10%；2027 年全球产量上限 300 万张 | 按订单量排 2027 年产能会算错 |
| TorchTPU 开源，PyTorch 代码原生跑在 TPU 上 2 | Qwen 3 8B 上 52% 的算力利用率；扩展到 8,192 张 Ironwood | 换芯片从改代码变成改配置 | |
| DeepSeek | 开源内部推理框架 DeepInfer 与 Token 编解码组件 3 | Apache 2.0；只支持 V4.1-Flash；英伟达 SM100 与华为昇腾 950 | 私有化部署缺的零件又少几块 |
| OpenAI | ChatGPT 上线锁定对话 4 | 4 位 PIN；从 Free 到 Edu 全部套餐 | 设备外借这个场景有了处理方式 |
| 蚂蚁百灵 | 开源 Ming-3.0 语音系列 5 | 5 款模型、3 个系列 | 语音链路可以整套自建 |
| Perplexity | Mac 版 Computer 支持完全本地运行 6 | 建议 36GB 统一内存；Qwen 3.6 与 PPLX Pro | 敏感任务可以不出设备 |
| Meta | Muse 上线 40 天的下载数据公布 7 | 美国 1,020 万次；7 日留存 30%，竞品 19% | 消费级 AI 入口的留存有了对照数据 |
英伟达：350 亿美元的订单，可能只到得了 5%–10%
10 月 20 日，路透社报道字节跳动、阿里巴巴和腾讯已下单超过 300 万张英伟达 RTX PRO 5500 显卡。1
每张标价约 11,400 美元，三家公司的潜在订单总额因此超过 350 亿美元。1
英伟达对客户与合作伙伴的说法是，中国买家的需求远超原定产能，公司无法保证满足相关订单。1
两位消息人士给出的交付比例是 5% 到 10%。1
产能这头的数字更直接：英伟达 2027 年全球 RTX PRO 5500 的产量最多 300 万张，中国客户的累计订单已经超过 600 万张。1
Loading chart…
数据来自路透社报道中的三组口径。前两根柱是报道原文的数字，后两根按产量上限乘以 10% 与 5% 折算，属于计算值。1
这张卡的定位值得说清楚。RTX PRO 5500 面向高性能专业工作站，不进大型数据中心集群。8
按现行出口限制，它已经是中国买家能买到的最强英伟达芯片之一。Blackwell 架构的 B300 禁止对华销售，Hopper 架构的 H200 要逐案审批。8
三家买它主要用来做推理，也就是让训练好的模型回答用户请求。推理对算力的要求低于在大规模数据上训练。8
交付节奏同样明确：客户 12 月拿到首批样品，2027 年第一季度开始商业交付。8
产能紧张还有一层原因。从 2027 年起，英伟达预计把台积电的大量产能分给下一代的 Rubin 平台，分到 RTX PRO 5500 这类产品的份额被压薄。8
英伟达发言人给路透社的回应是，自 2022 年限制首次生效以来，中国的工作站芯片与板卡厂商经历了「前所未有的增长」。8
美国的限制也确实把一部分需求推向国内，报道提到华为等厂商在承接。国产芯片要追平领先产品仍有难度，其中一环是先进制造设备同样受限。8
对写 2027 年推理扩容计划的人，这条的实际用法是换算：把订单量当成到货量，产能会对不上；按 5% 到 10% 折算，才是这批卡能承住的负载。
Google 把 PyTorch 原生接到 TPU 上，TorchTPU 开源
10 月 20 日，在 PyTorch Conference 2026 上，Google 宣布 TorchTPU 开源，代码放到 GitHub。2
Google 的说法是，TPU 由此与 GPU、CPU 并列，成为 PyTorch 的原生选项。2
TorchTPU 由 Google 与 Meta 的 PyTorch 团队共同开发。已有的 PyTorch 代码改少量代码就能跑在 TPU 上。2
调试路径是先用 eager 模式，再用 torch.compile 提升 TPU 利用率、压低显存占用。2
规模数据也给全了。训练侧经 TorchTitan 在最多 8,000 张 Ironwood（TPU v7x）上验证过。2
Qwen 3 8B 上做到 52% 的模型算力利用率（MFU），扩展测试跑到 8,192 张。2
推理侧接了三家主流引擎：与 Inferact 合作的 vLLM 后端、与 RadixArk 合作的 SGLang 后端。2
此外还有与 Red Hat、IBM 和 500 多名贡献者一起发布的 llm-d 1.0。2
这三个后端都保留了上游的 worker、调度器和 API 服务层，现有推理栈的接口不用跟着改。2
Hugging Face 那边，Transformers v5 部署到 TPU 只要传
device_map="tpu"。2Diffusers 也原生支持 TPU 上的 eager 模式、torch.compile 和张量并行。2
端侧也被带上了。LiteRT（原 TensorFlow Lite）加入 PyTorch 生态。2
一句
litert-torch.convert() 就能把 PyTorch 模型转到 Android、iOS、macOS、Windows、Linux、网页和物联网设备上。2与上一期 AWS 的 TorchNeuron 摆在一起看，两家的动作前后只隔一天。
TechCrunch 认为 Google 多做了一步：它直接与 Meta、Hugging Face、Inferact、RadixArk 一起把工具链磨合好。
Google 还另发了一个 TPU agent suite，帮开发者迁移应用、诊断错误、调推理性能。9
检验点和上一期一样，落在开源之后：装起来顺不顺，常用的算子与精度路径覆盖到哪一步。今天多的只是第二块芯片。
DeepSeek 开源内部推理框架 DeepInfer
10 月 20 日下午，DeepSeek 宣布把内部推理框架 DeepInfer 全面开源，同步放出 Token 编解码组件 deepseek-recipe。3
DeepSeek 在公告里的说法是，模型的能力边界由模型决定，如何以合理成本提供超大规模服务，则取决于推理框架这个中间层。3
公告称，DeepSeek V4.1 Flash 的高吞吐推理服务本身就建在 DeepInfer 上，后续新模型的推理代码会持续更新到仓库里。3
仓库写得比公告更具体：Apache 2.0 许可，当前支持 DeepSeek-V4.1-Flash 一个模型。10
硬件支持英伟达 SM100 GPU 与华为昇腾 950 NPU。10
功能清单包括自研算子（FlashMLA、DeepGEMM、DeepEP、TileKernels 等）、注意力 DP 与 MoE 的 EP+EPLB 并行。10
调度层面有 DSpark 加置信度调度的草稿验证、SWA 有界重放、零开销的异步批调度，也有批不变推理与确定性采样。10
缺的部分也写在 README 里：KV cache 系统、预填充与解码的分离式部署、数据并行副本之间的负载均衡，这三块开源版里还没有。10
许可证与支持范围一起说明了它的用途：这份代码更像一份可复现的部署参考，直接拿去上生产还差几块组件。10
仓库致谢里也讲了出身：最初主要基于 vLLM 构建，另参考了 SGLang 与 TensorRT-LLM。10
对自建推理的团队，最值得先看的是一行硬件支持：昇腾 950 与英伟达 SM100 并列写在官方列表里，仓库里另附了昇腾平台专属的依赖文件。10
ChatGPT 可以给单个对话上锁了
10 月 20 日，OpenAI 上线锁定对话（Locked Chats）。4
锁定后的对话从普通聊天记录、置顶对话和搜索里移走，收在「Projects > 锁定对话」下面。11
打开要输 4 位 PIN，支持的手机上还能用 Face ID、Touch ID 或设备解锁。11
适用套餐是 Free、Go、Plus、Pro、Business、Enterprise、Edu；ChatGPT for Healthcare 不提供。11
功能从周二起分批上线，未必当天就能用上。11
比较实质的部分是记忆隔离。开启记忆功能后，锁定对话有独立的记忆空间，锁定之后发出的新消息只更新这部分记忆，不写进通用记忆。11
OpenAI 也把边界列清楚了：锁定对话没有端到端加密，也没有单独的加密存储区；对话留存时长不变；「帮助改进模型」的开关不变；锁定前已经记住的信息不会被清掉。11
企业侧有两处要留意。工作区管理员既不能在后台关掉这个功能，也不能替员工解锁或重置 PIN；同时，Enterprise 与 Edu 的锁定对话仍会进合规平台的消息日志。11
最容易踩的是 PIN 重置。重置会永久删除全部锁定对话、只在锁定对话里保存的记忆和文件，客服也找不回来。11
临时对话、归档对话、群组对话、从分享链接创建的对话、带定时任务的对话和含会议录音的对话，都不能上锁。11
在公司里推 ChatGPT 的人可以把这条对上具体场景：员工把设备借给同事演示时，锁定对话提供的是一个可开关的遮挡层。合规侧看得见什么，这次没有变化。
蚂蚁百灵开源 Ming-3.0 语音系列
10 月 20 日，蚂蚁百灵开源 Ming-3.0 语音系列，共 5 款模型，分语音合成、音频理解与对话、语音识别三个系列。5
语音合成两款（0.5B 与 tiny）带 Voice Design：用一段文字描述目标音色，也可以拿参考音频定音色。5
更有意思的是导演模式。创作者可以说明一段台词怎么演，情绪怎么变、哪些词重读、节奏怎么处理。5
理解侧两款（audio-flash 与 audio-tiny）直接对长音频做转写、总结和观点分析并结构化输出，保留情绪、说话人身份和环境信息，省掉先出逐字稿再分析那一步。5
识别侧只有一款 asr-tiny，语料覆盖普通话、英文、方言和领域热词，推理时会用候选热词列表和对话上下文来纠错。5
落地场景是实名的。合成已用在阿福 App 的主对话与语音通话、医生音色克隆、小虎智能办公；识别已用在阿福医生助手、支付宝搜索、蚁小保实时语音对话和安全核身。5
权重放在 Hugging Face 与 ModelScope 的 inclusionAI 组织下，API 走 Ling Studio，五个模型都能在线试。5
对做语音产品的团队，这套组合的用处在于一条链路能自己拼起来：asr 接输入，tts 接播报，audio 模型管理解，全部可以私有部署。
Perplexity Computer 能在 Mac 上整段离线跑了
10 月 20 日，Perplexity 发布 Mac 版 Computer 的完全本地模式：模型、harness 和任务执行都跑在设备上。6
本地跑的是 Qwen 3.6 或 PPLX Pro，后者是 Qwen 的后训练版本。硬件要求 Apple 芯片，官方建议 36GB 以上统一内存。6
开放给 Pro、Max、Enterprise 订阅用户，在 Perplexity Mac App 里下载本地模型后即可选用。6
本地模式下，Computer 在用户授权后读写本地文件，并与备忘录、信息、邮件和 Numbers 协作；代码与工具执行跑在隔离沙箱里。6
要查实时信息、用浏览器或接外部应用时，本地编排器可以把任务升级到云端，调用 15 个以上的前沿模型。6
官方给的例子是投资组合复核：对照私密持仓和下载的市场数据，标出集中度风险与配置偏移，再更新 Excel 工作簿和 Keynote 讲稿。6
门槛落在内存上。官方推荐 36GB 以上，低于这个规格的 Mac 不在推荐范围内。6
对处理合规敏感数据的人，这条把「数据不出设备」做成了可选项；本地模型承担规划与文件处理，遇到需要更强推理的环节再显式升到云端。
Meta Muse：40 天美国 1,020 万下载，7 日留存 30%
10 月 20 日，Sensor Tower 发布了一组数据：Meta 的 AI 助手 Muse 上线 40 天全球下载 1,090 万次。7
其中美国 1,020 万次。7
按这个口径，40 天内在美国做到 1,000 万下载的 App 至今只有 12 款，上一款是 2023 年 7 月的 Threads。7
对照同期：ChatGPT 前 40 天美国下载 370 万次，Grok 50 万次，Claude 20 万次。7
ChatGPT 全球约 1,500 万次，覆盖市场也更广；Muse 目前只在美国和加拿大开放。7
留存是这批数据里比较少见的项：Muse 的 7 日留存 30%、14 日留存 23%，ChatGPT、Claude、Grok 平均为 19% 和 16%。7
10 月 16 日，Muse 日活首次达到 250 万，比上周同期涨 15%。7
增长里有一块是买来的。Meta 10 月把 39% 的广告预算投给 Muse，上个月是 23%。7
按广告曝光量算，Muse 本月在美国品牌中排第 21 位，9 月排第 73 位。7
同一天还有一条相关的消息：Meta 暂停了 Muse 的对话分享功能（见下方简讯）。用户量冲上去之后，可被外部看见的面跟着变大。
另外几条
- OpenAI 收购 Orchestra Bio。 被收购方做的是帮生物制药团队协调药物开发流程的平台，团队与技术将并入 OpenAI 面向生命科学的 Rosalind，与 GPT-Rosalind、Rosalind Workbench 合到一起。官方举的用法是：一批药品生产失败时，智能体找出受影响的工作与时间表、汇总信息、比较应对方案。12
- 小米 MiMo-V2.6-Pro 上线 WorkBuddy。 小米技术称，这款模型在 Artificial Analysis 智能指数上得 46 分、位列全球开源第一，支持 1M 上下文与图像、视频、音频、文本的全模态理解。MiMo-V2.6 系列 9 月 22 日发布并开源，Pro 的 API 定价为每百万 token 输入 3 元、输出 6 元。13
- Gemini 的个性化能力上车。 Google 把 Personal Intelligence 接进 Android Auto 与内置 Google 的车型，Gemini 可以读 Gmail、日历、地图、相册、YouTube 和搜索里的信息。前提是用户自己打开这个开关并连着手机；Android Auto 当天开始推送，内置 Google 的车型要等几个月。14
- Yelp 让 AI 代用户打电话问等位。 新功能 Check for Me 在餐厅页面出现，用户填人数与手机号，智能体代为致电并短信回传等位时间。同批更新还有 OpenTable 直连订位、记住偏好，以及面向商家的 Smart Lead Reply，每月 30 美元。15
- Meta 暂停 Muse 的分享功能。 安全公司 Claroc 通过公开 DNS 记录找到 6,800 多个 Muse 分享链接，其中包括一家营销公司的营收复盘、一位小企业主的贷款申请和某公司的全年员工日历。Meta 发言人 Tracy Clayton 表示正在复核报告并考虑调整链接的可发现性。16
- Anthropic 向国会推销自己的 AI 安全法案草案。 草案设定的拦截门槛是「可预见且迫在眉睫的风险」：超过 50 人死亡，或超过 10 亿美元财产损失，且源于生物武器、模型绕过开发者控制或网络攻击。评估由在商务部登记的独立评估方做，可接受 AI 公司付费，条件是费用不与评估结果挂钩；认定风险后 72 小时内上报商务部，由商务部请华盛顿特区法官裁定是否阻止发布。Anthropic 称这份草案落实的是其 6 月起在联邦与州层面推的 Advanced AI Framework。17
今天的三个观察点
- 改框架的默认值，和买不到货，是同一件事的两头。 AWS 用 TorchNeuron 让 PyTorch 代码跑上 Trainium，Google 隔一天用 TorchTPU 让同一份代码跑上 TPU，两家都在动「代码默认落在哪块芯片上」这层；同一天，中国的三家大厂拿出 350 亿美元下单，只能换回 5% 到 10% 的货。前两家抢的是迁移成本，后一件事说明供给仍然紧。做 2027 年推理预算的人，把「能不能换芯片」和「能拿到多少卡」一起算，账才对得上。
- 今天的隐私更新都在处理同一个暴露面：对话被人看见。 ChatGPT 允许给单个对话上锁，Perplexity 把整段任务搬回本地，Meta 因为分享链接可被 DNS 索引而暂停 Muse 分享。三件事分别对应屏幕外借、数据出设备、链接被检索三种情况。OpenAI 在说明里写明，锁定对话不含端到端加密、也不改变数据留存；Perplexity 与 Meta 这次改的是访问路径。
- 国内的开源从模型层往下走到了工具层。 DeepSeek 放出的是跑模型的推理框架，蚂蚁放出的是能直接拼成语音链路的一组模型，小米把 MiMo-V2.6-Pro 接进了 WorkBuddy。上一层比的是模型分数，这一层比的是别人拿它上生产要补多少零件。DeepInfer 的 README 自己列了三块缺失组件，这个诚实程度对自建推理的团队反而是有用信息。
References
- 1总价逾350亿美元！字节、阿里、腾讯订购超300万张英伟达芯片｜快科技
news.mydrivers.com
- 2
- 3DeepSeek 宣布将内部推理框架 DeepInfer 全面开源｜IT之家
ithome.com
- 4ChatGPT now lets you lock your chats｜TechCrunch
techcrunch.com
- 5蚂蚁百灵开源 Ming-3.0 语音系列模型｜IT之家
ithome.com
- 6
- 7
- 8
- 9
- 10deepseek-ai/DeepInfer｜GitHub
github.com
- 11Using locked chats in ChatGPT｜OpenAI Help Center
help.openai.com
- 12OpenAI 已收购 Orchestra Bio｜OpenAI
openai.com
- 13小米 MiMo-V2.6-Pro 正式上线 WorkBuddy｜IT之家
ithome.com
- 14
- 15
- 16
- 17
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.