一个人、两周、数百美元,如何训出登顶 Hugging Face 的模型 | 对谈研究员逯雨鑫
2026年8月29日 · 47:29
某 AI Lab 研究员逯雨鑫向曲凯和陈皮复盘了他以个人开发者身份训练两个小模型并登顶 Hugging Face 热榜的过程:仅用一张 5090、QLoRA 和 200 美元的 Cloud Max 月费,花约两周、总计数百美元,基于 Gemma 与 Fable 微调出模型;第一版用了 5 天,第二版 2–3 周,其中绝大多数时间在整理和审核数据。他并非 AI PhD,强调卡点几乎都在数据而非训练——合成数据效果有限,真实数据约占 60%–70%,总量几千到一万条,需人工审核;还要应对'老师太强、学生太弱'的 Capacity Gap,因此选择 SFT 而非 RL,并推荐 Qwen 作为坑最少的开源底座;他定义的'好蒸馏'是锚定真实使用方向,而不是 Benchmark 分数。他对应用公司的成本估算是一个小模型几千到 1 万元人民币(不含 serving),并认为训练会一步步商品化,应用公司将成为 Neo Lab,AI Lab 的价值集中到前训与研究;数据是稀缺资源,AI Lab 重金买数据就像早期字节砸钱买用户。他还看好 Local AI 成为 PC 级机会,隐私与成本会推动本地部署(如 Hugging Face 曾遭攻击后改用国产模型本地解决),但主流用户仍会用豆包这类够用的模型,而非执着于 SOTA。