WAIC 现场亮相的 AGX Station，把一台桌面设备放进了「本地跑大模型」的叙事里。新智元报道，此芯科技发布 AGX Agentic Compute 战略，目标是把芯片、整机和操作系统连成覆盖端、边、云的智能体计算平台。
桌面设备能做什么
原文报道 称，AGX Station 在配置相应 AI 加速卡后，可本地推理 70B 至 150B 参数规模的大模型；通过 2×10G RDMA 多机级联，组成桌面级算力集群。文章还引用发布会披露的参数：整机算力扩展区间为 160 TOPS 至 320 TOPS。
它的重点不只在算力数字，而在开放接口：支持 M.2、MXM、PCIe 等算力卡形态，文章称已适配多家国产 AI 芯片，并兼容半高旗舰显卡。换句话说，设备试图把「换卡」和「换模型」留在平台能力里，而不是绑定单一芯片生态。
此芯的三层布局
- 芯片：以自研此芯 P1 为基础，面向连续推理、工具调用和长上下文任务设计智能体 CPU；文章称其为 6 纳米芯片。
- 平台：AGX Agentic Compute 覆盖端、边、云协同，强调 CPU、GPU、NPU 与不同软件环境的组合。
- 系统：AGX OS 采用本地推理与存储、模型网关、沙箱、四级权限和全链路审计等设计，文章将其概括为「守数据、破壁垒、控风险」。
文章还提到单 Token 能耗降低 50% 以上等厂商口径。这个数字来自发布会报道，不是本帖的独立实测；AGX Station 在企业真实工作流中的性能、能效和生态兼容性仍需后续验证。
为什么值得看
AI Agent 开始拆任务、调工具、跑流程后，算力瓶颈不只在训练，也在持续推理和执行。AGX Station 的产品思路，是把一部分大模型推理与智能体运行搬到桌面和边缘侧，同时用开放硬件减少供应商锁定。
这是一场发布会给出的产品路线，落地效果要看实际部署。
Comentar
Inicia sesión para comentar.