LoRA 微调最低成本方案：¥10 以内炼一个自己的模型

TL;DR 直接答案：QLoRA 微调 7B 模型，一张 24GB 的 RTX 3090/4090 按量租 3~4 小时就够，总成本 ¥5~10。核心三招：4bit 加载模型、只训 LoRA 适配器、用竞价实例 + checkpoint。

为什么 LoRA 能把成本打下来

全量微调 7B 模型需要 60GB+ 显存（模型 + Adam 优化器状态 + 梯度），只能租 A100，一小时 ¥6~12。LoRA 的思路是冻结原模型、只训练插入的低秩矩阵（参数量约 1%），QLoRA 进一步把原模型 4bit 量化加载：

• 模型本体 4bit：约 4~5GB
• LoRA 参数 + 优化器：约 2GB
• 激活值（batch 8、seq 2048）：约 8~12GB
• 合计 16~20GB —— 24GB 消费卡刚好拿下

卡型选择与实时价格

3090 是成本杀手，4090 是速度选手。两者都能跑，按预算选：

全流程成本控制（以 Qwen2.5-7B 为例）

1. 选实例：3090 按量，竞价/闲时优先（便宜 30%，可中断）
2. 装环境 10 分钟：transformers + peft + bitsandbytes + trl，镜像市场里找现成的 LLM 镜像更省时间
3. 数据：几千条指令数据就够，JSON 格式准备好传云盘
4. 训练 2~3 小时：LoRA rank 16、batch 4 + 梯度累积 4、训 2~3 个 epoch；每 500 步存一次 checkpoint（防竞价实例被回收）
5. 导出合并：merge LoRA 权重到 base 模型，下载到本地或推 HuggingFace

全程约 4 小时 × ¥1.4/时 ≈ ¥5.6，加上传下载时间也就 ¥8 以内。

三个翻车点

• 显存爆了先砍序列长度：seq 2048 → 1024 能省一半激活显存，比降 batch 更划算
• 竞价实例一定开自动保存：被回收不丢进度，重新开机加载 checkpoint 接着训
• 别用免费额度跑正式任务：各家送的体验金适合试环境，正式训练用充值余额，免得中途断供

各平台价格每小时都在变，上方表格是此刻的实时比价（每小时更新）。不确定卡够不够，用选型工具算一遍再下单。部分链接含推广返佣，不影响排序。