基于 Qwen3-4B 开源基座(Apache 2.0)+ 飞创业务数据微调的垂直模型。两轮数据迭代,业务评测从 80% 提升到 90%,训练方法与数据构成全部如实公开。
同一套 20 题飞创业务评测(企业文案 8 题 / 甘蔗农技 6 题 / 短剧脚本 6 题),机器评分口径:长度区间 + 关键要素 + 拒答检测。
| 版本 | 训练数据 | 得分 | 变化 |
|---|---|---|---|
| 基座 Qwen3-4B(未微调) | — | 16 / 20(80%) | — |
| FC-1-4B-SFT v0.1 | 500 条 | 17 / 20(85%) | +5% |
| FC-1-4B-SFT v0.2(当前) | 587 条 | 18 / 20(90%) | +5% |
| 基座 | Qwen3-4B-Instruct-2507(Apache 2.0 开源,微调而非从零预训练) |
| 方法 | LoRA(rank 16,可训练参数占比 0.81%)· bf16 · 2 epochs |
| 数据 | 656 条,全部为飞创自有业务文案与合成数据(教师模型蒸馏),不含任何用户隐私数据 |
| 数据构成 | 企业文案 40甘蔗农技 25短剧脚本 34客服应对 65官网/蓝图 QA 156智能体场景 109格式/字数专项 39 等 18 类 |
| 训练成本 | 云端单卡 GPU · 每轮 18-21 分钟 · 免费算力额度内完成 |
| 14B 对照实验 | Qwen3-14B QLoRA 4bit(24G 单卡)训练完成并评测:16/20——验证「4B+精准数据」选型更优 |