弹性GPU算力租凭选购¶
Abstract
没有绝对最好的平台，只有最适合当前任务的平台——先明确任务类型、运行时长、显存需求、预算，再对照下方维度选型。价格方面一般优先观察4060的小时价（1-2￥/hr为基准参考）。
国内平台三大类型¶
| 类型 | 代表平台 | 核心优势 | 主要缺点 | 适合人群 |
|---|---|---|---|---|
| 大厂 AI 云 | 阿里云、腾讯云、华为云、百度智能云、火山引擎 | 超稳、万卡集群、合规完善 | 价格高、流程繁琐 | 大企业、合规项目 |
| 专业 GPU 平台 | AutoDL、晨涧云、恒源云、GpuGeek、智星云 | 价格低、上手快、镜像丰富 | 企业级 SLA 有限 | 开发者、科研、中小团队 |
| 数据中心 / 智算中心 | 运营商、地方智算中心 | 大集群、高速网络、可定制 | 灵活性低、门槛高 | 大规模科研、政务项目 |
对个人开发者和中小团队，日常主战场通常是专业 GPU 平台；政企涉密、万卡级训练则优先考虑大厂云。
选型关键维度¶
价格与隐性费用¶
不能只看标价，要算总账单。
| 计费方式 | RTX 4090 参考价 | 适合场景 |
|---|---|---|
| 按量计费（秒/分钟/小时） | 约 1.3～3.0 元/小时 | 短期调试、验证实验 |
| 包月折扣 | 约 0.8～1.5 元/小时等效 | 长期训练 |
| 包年套餐 | 更低 | 企业持续业务 |
常见隐性费用：带宽超量费、数据盘/系统盘存储费、NVLink 多卡互联溢价等。部分平台标价低，加上附加费后并不便宜。
避坑
长期任务优先对比包月总成本，而非只看小时价。短时按量便宜的平台，包月反而可能更贵。
资源可用性与排队¶
| GPU 型号 | 可用性 | 备注 |
|---|---|---|
| RTX 4090 / A100 | 基本即开即用 | 中端卡资源较充足 |
| H100 / H800 | 高峰期可能需预约 | 高端卡仍偏稀缺 |
| 昇腾 910 | 华为云现货较足 | 国产信创场景首选 |
大平台卡荒时，知名度稍低的平台（如晨涧云、GpuGeek）有时反而有货，可作备用。
稳定性与服务可用性¶
多租户环境下，平台差异很大。可参考：
-
服务可用性 ≥ 99.95%
-
算力波动 ≤ 2%
-
故障迁移 ≤ 30 秒
还需确认：是否物理/逻辑独占 GPU？ 是否存在超售（一张卡卖给多个用户）？是否有限功耗、限算力等隐藏策略？
超售：平台卖出的算力总量超过物理资源，类似航空公司超卖机票。短时低价平台常见此策略，高峰时可能出现抢不到卡或性能波动。
易用性与生态¶
是否支持一键镜像？是否预装 PyTorch、TensorFlow、Hugging Face？有无社区教程与数据集？
国产芯片支持¶
政务、信创、金融项目需提前确认：
| 国产芯片 | 主要支持平台 | 适配情况 |
|---|---|---|
| 华为昇腾（Ascend） | 华为云、部分专业平台 | 较成熟，推理场景领先 |
| 壁仞 | 部分专业平台 | 商用中，需验证框架 |
| 海光 | 部分专业平台 | 有一定适配，建议先测试 |
Warning
国产卡在 CUDA 生态兼容性上仍在完善，部署前先小规模验证，不要等任务上线才发现框架跑不通。
显存需求对照¶
大模型时代，显存往往比纯算力更重要——显存不够，模型根本加载不了。
| 任务类型 | 模型规模 | 推荐最低显存 | 推荐 GPU |
|---|---|---|---|
| 推理 | 7B | 8～16 GB | RTX 3090 / 4090 |
| 推理 | 13B | 24 GB | RTX 4090 / A100 40G |
| 推理 | 70B | 80 GB | A100 80G / H20 |
| LoRA 微调 | 7B | 16～24 GB | RTX 4090 |
| LoRA 微调 | 13B | 30～40 GB | A100 40G |
| 全参训练 | 大模型 | 80 GB+ | A100 80G / H100 |
关键概念
-
LoRA（低秩适配）：不改动大模型全部参数，只训练一小部分「适配层」，大幅降低显存需求，是个人微调大模型的常用手段。
-
量化（如 4-bit）：用更低精度存权重，进一步省显存，但可能略损精度。
-
NVLink / InfiniBand：多卡互联技术。多卡训练时，卡间通信带宽直接影响效率；做分布式训练要关注平台是否支持。
显存不足时只能减小 batch size 或做量化，训练效率会明显下降。
按场景快速选型¶
| 使用场景 | 推荐平台 | 核心理由 |
|---|---|---|
| 学生/个人/短期实验（预算 < 500 元/月） | 专业GPU平台 | 按量计费灵活，会员折后成本低 |
| 科研/高校长期微调 | 专业GPU平台 | 存储与镜像较完善，省数据传输麻烦 |
| AI 创业团队 | 专业GPU平台 | 稳定算力 + 开发者生态 |
| 大企业/合规项目 | 大厂 AI 云 | 生态与稳定性优先 |
| 国产信创/政务 | 华为云昇腾智算 | 政策友好，昇腾现货较足 |
| 大规模多卡训练 | 大厂 AI 云 | 万卡集群 + 高速互联网络 |
| 主平台抢不到卡 | 专业GPU平台 | 大平台卡荒时的备用选择 |
分层策略（实用组合）：
代码调试 / 环境配置 → AutoDL 或无卡模式（便宜）
正式训练 / 长期任务 → 恒源云、晨涧云或智星云（稳定 + 性价比）
企业生产 / 合规部署 → 阿里云、腾讯云、华为云