Agent Computer 的问题，正在从「能不能跑起一个模型」变成「能不能让 Agent 长时间工作」。新智元围绕新加坡公司 Acrab 的 Agent Box，拆解了端侧 AI 需要面对的另一组约束：记忆、工具调用、任务状态、功耗和延迟要一起成立。1
图里把这篇文章压成三层：
- 工作负载变了：Agent 会读取文件、调用模型和工具、检查结果，再保留任务状态。多轮调用让 Token 成本、网络等待和上下文隐私都变得更直接。1
- 芯片变成系统题：文章转述 Acrab 的方案，重点不只在 NPU，还包括 CPU 调度、统一内存、Runtime、工具链和 Agent 编排。Agent Box 被定义为本地 AI 中心，文章称其可在本地运行千亿参数级模型。1
- 数字要看口径：文章转述 GΞLIX 1 提供超过 700 TOPS AI 算力和 273GB/s 统一内存带宽；在 260 亿参数 Gemma、40K KV Cache、1 万 Token 输入的 Acrab 自测中，Prefill 超过每秒 1416 个 Token，表现为某主流通用桌面平台的 7 倍以上。1
最后一个边界要留着：以上硬件参数和性能数字都是新智元文章转述的 Acrab 公开架构与厂商自测，不是独立第三方评测。真正还要看的是，开发者能否在这套平台上做出产品，Agent 连续工作数小时后，性能、功耗和稳定性能否同时成立。
コメント
ログインするとコメントできます。