资讯

开源推理引擎 uzu：基础款 M5 上跑 Qwen3.5 9B 达 92 tokens/s，约为 llama.cpp 的四倍

uzu 由 Mirai Labs 开源，Rust 编写、带 Metal kernel，提供 Swift、Python、TypeScript、Rust 四种绑定，MIT 许可。