
今日三荐:本地模型选型、漫画翻译流水线与 Rust CAD
从 llmfit、Koharu 和 OpenCADStudio 出发,分别练习本机模型选型、多阶段视觉处理,以及跨平台 CAD 核心与自动化边界。
今天适合把三个项目放在一条「本地工具怎样把复杂问题拆开」的学习线上:先判断自己的机器能跑什么模型,再看一张漫画页面怎样经过检测、识字、擦除和排版,最后把几何数据交给一个同时面向桌面端与浏览器的 CAD 核心。它们都不是只展示一个聊天界面,而是把硬件探测、图像处理、文件格式和渲染这些具体环节摆到了代码面前。
1. llmfit:先回答「我的电脑到底适合跑什么」
仓库:AlexsJones/llmfit · Rust CLI
本地跑大模型,第一道障碍往往不是调用 API,而是判断模型能不能装进现有机器。llmfit 会检测 RAM、CPU、GPU 和显存,再按内存适配、速度、质量、上下文四个维度给模型排序;它同时提供交互式 TUI 和适合脚本调用的 CLI,还覆盖多 GPU、MoE、动态量化,以及 Ollama、llama.cpp、MLX、Docker Model Runner、LM Studio 等运行时。1
这里最值得拆的地方,是「推荐」怎样从一句模糊的产品话术变成一串可检查的输入。
llmfit info <model> 会告诉你某个估算依据和验证命令,README 还提供 llmfit bench,让你用自己的运行时测量实际 tok/s 和首 token 延迟。估算表、硬件探测和实测结果之间的关系,比单纯记住哪个模型更快更适合拿来学系统工具。适合学什么
- Rust CLI 如何同时提供 TUI、表格输出和 JSON 输出。
- 程序如何读取 CPU、RAM、GPU 与显存,再把硬件约束映射到模型目录。
- MoE 和量化为什么会改变「参数量」与「实际可运行」之间的关系。
- 估算值怎样携带假设,实测结果又怎样回写成社区可复用的数据。
复现难度:低。先不用编译,也不用下载模型。macOS/Linux 可以用 Homebrew,或者直接运行:
uvx llmfit
uvx llmfit recommend --json
uvx llmfit doctorREADME 也给出了 Windows 的 Scoop 路径、Docker 运行方式和从源码编译的
cargo build --release。如果你想看源码,先从硬件探测、模型目录和评分函数开始,再追 TUI;这个顺序比从界面事件一路向下读省力。1项目在 2026 年 8 月 17 日 仍有连续提交:当天既有
1.1.10 发布、模型数据刷新,也有社区基准测试和新的运行时发现功能。它适合做一个「先看估算,再做一次实测」的小实验,但真实 benchmark 需要本机已有模型和运行时,别把推荐表当成性能保证。2最小上手路径:先运行
recommend --json,保存排名靠前的三个模型;再用 info 查看其中一个模型的估算依据。若电脑上已经有 Ollama 或其他本地运行时,选一个最小模型跑 bench,把估算速度和实测速度并排记下来。今晚可以做的最小练习:写一个十几行的脚本读取 JSON,只保留「能装下」「适合 coding」的模型,再按估算速度排序。然后换一台机器运行同一个脚本,观察输出为什么变化。这个练习会把硬件探测、结构化输出和推荐逻辑连在一起。
2. Koharu:一页漫画背后的多阶段视觉流水线
仓库:mayocream/koharu · Rust 桌面应用
Koharu 把漫画翻译拆成了几个可以分别观察的阶段:检测文字区域和气泡、OCR 识别原文、inpainting 擦掉原字、调用本地或远程语言模型翻译,最后重新排版;项目还支持竖排中文、从右到左文字和分层 PSD 导出。视觉模型与语言模型默认可以在本机运行,项目提供 CUDA、ROCm/HIP、Metal、Vulkan 和 CPU fallback。3
这条链路的学习价值在于,每一步都可能把误差传给下一步。检测框偏了,OCR 读到的文字就会缺字;擦除区域过大,原画会被破坏;翻译结果正确,文字框尺寸却不够,最终页面仍然难看。与其把它当成「一键翻译器」,不如把一页图像当成流水线的观测样本,逐步确认输入和输出在哪里发生变化。
适合学什么
- 目标检测、OCR、图像修复和文本生成怎样组合成一个可交互的应用。
- Rust 桌面程序怎样管理模型后端、推理参数和不同硬件加速路径。
- 语言模型输出为什么还要经过结构化约束、文本布局和渲染。
- 本地模型、远程 API 和 CPU fallback 之间,隐私、速度与部署成本怎样取舍。
复现难度:中到高。最省时间的办法是先从 Release 页面 下载对应系统的预编译版本;Windows 可以用
winget install koharu,macOS 可以用 brew install --cask koharu。源码构建还需要 Rust 1.97.1 或更高版本、Bun 1.3.14 或更高版本、LLVM 22.1.8 或更高版本和 Ninja 1.13.2 或更高版本。3项目在 2026 年 8 月 17 日 发布了
0.73.0,当天的提交还包括调节本地模型采样、收紧 PaddleOCR-VL 采样、改进翻译提示词和优化结构化推理。这个维护节奏说明功能还在快速变化;复现时应该以当前 README 和发行包为准,不要照抄旧教程里的模型名称。4最小上手路径:先只处理一页分辨率适中的漫画,保存原图、检测结果、OCR 文本和最终渲染图四份结果。第一次运行优先观察文字框是否覆盖完整、擦除是否伤到背景、译文是否超出气泡;模型下载和批量翻译放到第二步。没有独立显卡时可以先用 CPU fallback 验证流程,速度和画质再另行评估。3
今晚可以做的最小练习:找一页同时有横排和竖排文字的图片,记录四个阶段各自花了多少时间,并挑一个 OCR 错误回到原图核对。你真正要学的是「如何给多阶段 AI 系统做可定位的观测」,不是只看最后一句译文像不像人话。
3. OpenCADStudio:同一套 Rust 核心,连接桌面、浏览器和自动化
仓库:HakanSeven12/OpenCADStudio · Rust
OpenCADStudio 是一个开源 CAD 应用,面向桌面端和 Web 端共享编辑核心,原生读写 DWG、DXF,支持精确 2D 制图、图层、块、外部参照、尺寸标注,以及基于内核的拉伸、旋转、扫掠、放样和布尔运算;2D/3D 视口使用
wgpu 做 GPU 加速。5对本科生来说,最值得看的不是「它能画图」,而是一个复杂文件格式和几何核心怎样被包进多个运行环境。桌面端还提供插件、命令脚本、无界面转换和逐行 JSON 自动化接口;浏览器版本则不加载原生插件。这个边界很适合用来理解:哪些能力属于共享核心,哪些能力依赖操作系统,哪些接口适合让另一个程序驱动。5
适合学什么
- DWG/DXF 这类工程文件的读写、版本化保存和几何实体组织。
- CAD 视口如何把几何数据交给 GPU 渲染,以及为什么需要正交和透视相机。
- Rust 核心如何同时服务桌面和 WebAssembly 构建。
- 插件进程、无头转换和逐行 JSON 协议怎样把 GUI 软件变成可自动化工具。
复现难度:中。先下载 最新 Release 的桌面包,或直接打开仓库提供的 Web 版本,确认自己能加载和保存一份简单图纸。Linux 也可以直接运行 AppImage:
chmod +x OpenCADStudio-*-linux-x86_64.AppImage
./OpenCADStudio-*-linux-x86_64.AppImage如果要从源码读和编译,Ubuntu/Debian 还需要
libgl1-mesa-dev、libx11-dev、libxcursor-dev、libxi-dev、libxrandr-dev、libxkbcommon-dev、libwayland-dev、libfontconfig1-dev 和 libfreetype6-dev,随后运行 cargo build --release --bin OpenCADStudio。这些系统依赖正好说明图形应用比普通 Rust CLI 多了哪一层成本。5项目在 2026 年 8 月 17 日 仍有密集提交,内容覆盖插件共享内存、保存时的编辑租约、Windows 构建栈、绘图命令和多语言支持;8 月 15 日还准备了
v0.9.6。它适合拿来读真实的工程代码,但项目仍在活跃开发,重要生产图纸要保留备份。6最小上手路径:先打开一份简单 DXF,画一条线和一个圆,保存后重新打开,观察对象和视口状态是否保持。第二步运行 README 中的转换命令:
OpenCADStudio --export input.dwg output.dxf再去找负责文件导入、视口渲染和自动化服务的模块。你会比直接从整个 GUI 工程入口开始,更快看到「文件 → 几何 → 渲染」这条主线。5
今晚可以做的最小练习:用同一份图纸完成「桌面打开、命令行转换、浏览器查看」三次操作,记录每一步依赖的能力。最后画一张小图,把共享核心、桌面壳、WebAssembly 壳和插件进程分开,标出数据在哪些边界上流动。
怎么选今天动手的那一个
| 你现在的状态 | 更建议先碰 | 先学哪条主线 | 关键限制 |
|---|---|---|---|
| 想先在终端里知道自己的电脑适合什么模型 | llmfit | 硬件探测、模型目录、评分与实测 | 推荐结果是估算;真正的 benchmark 还需要本地模型和运行时。1 |
| 想观察一张图片怎样经过 AI 流水线 | Koharu | 检测、OCR、inpainting、翻译、排版 | 可以 CPU fallback,但模型和图像处理会消耗时间;先做单页,不要直接批量。3 |
| 想把系统编程和图形应用连起来 | OpenCADStudio | 文件格式、几何核心、GPU 视口、WebAssembly | 预编译包容易开始,源码构建需要图形库;项目仍在快速迭代。5 |
如果只安排一晚,先选 llmfit:它不要求你先准备模型,就能把「本机能跑什么」变成一份可读的 JSON。手头有图片和一块能跑推理的 GPU,再选 Koharu,重点观察中间结果。想练跨平台工程和图形管线,就从 OpenCADStudio 的一份 DXF 开始,先追文件如何变成可编辑的几何对象。三个项目放在一起,真正值得带走的不是三个产品名,而是三种拆法:先测约束,再分阶段处理,最后把核心能力放进不同运行环境。
References
- 1llmfit README
github.com
- 2llmfit commit history
github.com
- 3Koharu README
github.com
- 4Koharu commit history
github.com
- 5OpenCADStudio README
github.com
- 6OpenCADStudio commit history
github.com
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.
