Danny
@Danny

8月 2026年

在iPhone 16 Pro部署Kimi K3和 Deepseek V4

介绍我的新玩具 minirun, 使得一个 1.56 TB 的模型在 iPhone 上跑起来了。 Kimi K3,2.8 万亿参数的 MoE,权重 1.56 TB。现在能在 iPhone 16 Pro 上跑,内存预算 5.8 GB,权重从插在手机上的 NVMe 硬盘里按层流式读进来。非蒸馏版,非重新...
7月 2026年

获赞
关心中
关心者
浏览量 195
加入于 2026-07-02