个人开发者 40 小时让模型下载量超 70 万，凭啥在大厂中突围？

转载于 2026-06-28 17:22:09 发布 · 30 阅读

“素人模型”冲上抱抱脸热榜

一位个人开发者杀进抱抱脸 Models Trending 榜前排。第一是智谱 GLM - 5.2，下载量 6 万多；第二是百度无限 OCR，下载量 7 万。个人账号 yuxinlu1 占两个位置，下载量达 20.7 万和 53.6 万。前一周其模型霸榜，力压 GLM - 5.2，智谱负责人公开推荐。热榜前排多为大厂、明星团队和热门赛道，如智谱 GLM - 5.2 有 753B 超大参数，百度 Unlimited - OCR 踩中 OCR 和文档理解方向。还有 Qwen、英伟达、微软等大厂模型，以及国产开源大模型和图像生成模型。luyuxin 的 12B GGUF 模型夹在其中。

这两个新模型把 Fable 5 的编程推理能力融入 Gemma4 - 12B 小模型，4.5GB 显存就能本地、离线运行，零 API 成本。V1 是 Coder 版，训练数据是“可验证”的代码推理，教师数据来自 Cursor 的 Composer 2.5 和 Fable 5，发布后曾连续多日霸榜榜首。V2 是 agentic 版，增加多步工具调用能力，在 tau2 - bench 的 telecom 子集上，得分是基座的 3.5 倍，但作者表示不能跟官方榜直接比，与 frontier 大模型有差距。Fable 5 下线后，作者用 Claude Opus 4.8(xhigh)补全社区缺失数据，重建轨迹可能与原版有出入。微调数据约 1 万条，作者强调数据质量、筛选和验证更重要。

模型热度高是因为能本地运行，是 GGUF 量化版，用户可用多种工具加载，对 coding 场景有吸引力，可避免传代码到云端和付 API 调用成本。V1 最小 Q2_K 版本约 4.5GB，推荐 Q4_K_M 约 6.87GB，Q8_0 约 11.8GB；V2 最小可靠版本 Q3_K_M 约 5.7GB，推荐 Q4_K_M 约 6.87GB。作者透露 V3 筹备中，沿 12B 做 coding + agentic 方向，改进 V2 问题，还在做 Qwen3.6 - 27B 更大版本。

一个人，40 小时，杀进大厂中间

作者逯雨鑫是美国高校在读 AI 方向研究生，本科是数据与商业分析，补过全栈开发。爆火模型是纯自费个人项目，做 V1 动机是“自我提升”，因学校知识更新慢。为做模型消耗一个 Claude Max 20×套餐，V2 花 40 多小时，数据处理、训练等基本一人完成。硬件用 RTX 5090，显存 32GB VRAM，有 96GB 本地 SSD 资源，可调动约 128GB 资源，与大厂算力池差距大。

过程中最耗时的是数据处理，agentic 数据长，受显存限制，训练时一次最多喂 2048 token，做了“滑动窗口”处理。V1 和 V2 以 Gemma 4 - 12B 为底座，适配麻烦，选它一是挑战自己，二是 12B 尺寸能让 8GB 统一内存 Mac 用户运行。逯雨鑫认为本地模型价值是隐私和免费，很多人不想为 Claude、GPT 付费。V1 发布后，开始没关注榜单，后突然排名上升，评论和 issue 大量涌入，他认真回复，称社区需求是关键。

原来还是个爱看网文的…

逯雨鑫在 HF 上发布 9 个公开模型，除爆火模型，还有“直接蒸 Claude”的模型，如 gemma - 4 - 12B - it - Claude - 4.6 - 4.8 - Opus - GGUF，把 Claude Opus 能力融入 12B 本地模型。另一个用 JetBrains 的 Mellum2 做底座专做推理蒸馏。还有中文网文 LoRA 微调模型，分四个题材，基于 Qwen3.6。这是他做 Hugging Face 模型的入口，因喜欢看小说，想做免费小说生成 pipeline，但后来发现用户更关注 coding 和 agentic，方向转变。