大模型时代GPU 选型已经不只是“显存越大越好”。训练、推理、Embedding、Rerank、意图分类、Token 优化、模型路由等不同任务对 GPU 的要求完全不同。本文梳理 NVIDIA 当前主流 AI GPU 系列包括A 系列、L 系列、H 系列、B 系列重点对比它们的核心参数、适用场景、国内采购情况和预算价格。说明NVIDIA 数据中心 GPU 通常没有统一公开零售价实际价格会受渠道、整机绑定、供需、进出口政策、是否二手、是否含税等因素影响。本文价格为 2026 年中企业预算参考区间适合做方案测算不适合作为最终采购报价。NVIDIA 官方参数主要参考 A100、H100、H200、L4、L40、L40S、A10、A30、A40 等产品页或数据表。一、先看结论不同系列怎么选系列代表型号定位适合场景采购建议A 系列A10、A30、A40、A100、A800Ampere 时代主力卡训练、推理、传统 AI、BERT、小模型服务国内存量大性价比稳定L 系列L4、L20、L40、L40S推理与图形混合卡大模型推理、视频、视觉、多媒体、轻量训练推理性价比较高H 系列H20、H100、H200Hopper 高性能 AI 卡大模型训练、高并发推理、长上下文性能强但价格和政策不稳定B 系列B200、GB200、B300、GB300Blackwell 最新一代超大模型训练、AI Factory、推理集群国内常规采购难度很高如果是企业级大模型平台比较现实的选择是场景推荐 GPUBERT / 分类模型 / Rerank / EmbeddingA10、A30、L4、L20、L40S7B14B 模型推理L40S、A800、H2032B72B 模型推理A800、H20、H100、H200大模型训练A800、H100、H200最新一代超大规模训练B200、GB200、B300但国内很难常规采购二、A 系列国内存量最大的 AI GPUA 系列基于 NVIDIA Ampere 架构是过去几年 AI 训练和推理的主力。A100 和 A800 仍然是国内不少企业训练集群的核心卡A10、A30、A40 则更多用于推理、小模型服务和图形计算。型号架构显存显存带宽功耗典型用途国内预算价A10Ampere24GB GDDR6600GB/s150W推理、BERT、轻量模型、VDI2万3万A30Ampere24GB HBM2933GB/s165W中小训练、推理、HPC2.5万3.5万A40Ampere48GB GDDR6696GB/s300W推理、图形、渲染、视觉 AI4.5万7万A100 40GAmpere40GB HBM2e约 1.5TB/s250W400W训练、推理7万10万A100 80GAmpere80GB HBM2e1.92.0TB/s300W400W大模型训练、推理10万15万A800 80GAmpere80GB HBM2e约 1.52.0TB/s视版本而定300W400W国内大模型训练、推理11万18万A10 的官方参数显示其拥有 24GB GDDR6、600GB/s 显存带宽A30 配备 24GB HBM2、933GB/s 带宽A40 配备 48GB GDDR6 ECC、696GB/s 带宽A100 80GB 则提供 80GB HBM2e 和约 1.92.0TB/s 显存带宽。A800 是面向中国市场的 A100 变体公开资料中常见 80GB HBM2e、受限互联带宽等配置。A 系列怎么选如果是BERT 分类、意图识别、Embedding、Rerank这种小模型服务A10、A30、A40 已经够用。如果是7B14B 大模型推理A40、A100、A800 更合适。如果是训练或多模型混部优先 A100 80G / A800 80G。三、L 系列推理性价比更高的一类卡L 系列主要面向数据中心推理、图形渲染、视频处理和 AI 混合负载。相比 A 系列L 系列的优势是功耗更低、推理效率更好尤其是 L40S已经成为不少企业大模型推理集群的选择。型号架构显存显存带宽功耗典型用途国内预算价L4Ada Lovelace24GB GDDR6300GB/s72W边缘推理、视频、轻量模型1.8万2.5万L20Ada Lovelace48GB GDDR6约 864GB/s275W300W中国市场推理卡、LLM 推理3万4.5万L40Ada Lovelace48GB GDDR6864GB/s300W图形、视觉、AI 推理5万7万L40SAda Lovelace48GB GDDR6864GB/s350W大模型推理、轻量训练、多媒体 AI6万8.5万L4 官方参数显示其 24GB 显存、300GB/s 带宽、72W TDP适合低功耗推理L40 和 L40S 均为 48GB GDDR6、864GB/s 显存带宽其中 L40S 更偏 AI 推理和生成式 AI 负载。L20 公开渠道资料显示其常见配置为 48GB GDDR6、864GB/s更多出现在中国市场服务器方案中。L 系列怎么选如果你做的是高并发推理L40S 通常比 A40 更值得考虑。A40 虽然也是 48GB但它更偏图形和通用计算L40S 更偏生成式 AI 推理。如果预算紧张、模型较小L4 / L20 更合适如果目标是 7B14B 模型服务L40S 更稳。四、H 系列当前高端 AI 训练和推理主力H 系列基于 Hopper 架构是目前大模型训练和高性能推理的重要选择。H100 是全球主流训练卡H200 是 H100 的大显存升级版H20 则是面向中国市场的特殊型号。型号架构显存显存带宽功耗典型用途国内预算价H20Hopper96GB HBM3约 4.0TB/s350W国内合规大模型推理、部分训练10万18万波动大H100 PCIeHopper80GB HBM3约 2.0TB/s350W大模型训练、推理18万28万H100 SXMHopper80GB HBM33.35TB/s700W 以内可配置高性能训练集群22万35万H100 NVLHopper94GB3.9TB/s350W400W大模型推理、双卡方案40万60万 / 双卡H200Hopper141GB HBM3e4.8TB/s600W700W长上下文推理、大模型训练25万45万H200 NVLHopper141GB HBM3e4.8TB/s600W 级高端推理、长上下文50万80万 / 双卡H100 官方规格显示H100 SXM 提供 80GB 显存、3.35TB/s 显存带宽并支持 FP8 Tensor CoreH100 NVL 提供 94GB 显存、3.9TB/s 带宽。H200 则升级到 141GB HBM3e 和 4.8TB/s 显存带宽主要面向更大的模型和更长上下文。H20 公开资料显示其常见配置为 96GB HBM3、约 4.0TB/s 带宽但实际采购和供货受政策影响较大。需要注意的是H 系列在国内采购高度受政策影响。Reuters 2026 年报道显示美国曾有条件批准部分 H200 对华销售但实际交付、数量和审批仍存在不确定性同年 7 月又有报道称中国正在考虑允许部分头部 AI 企业采购有限数量 H200。H 系列怎么选如果是大模型训练H100 / H200 仍然是强选择。如果是国内可落地采购H20 更现实。如果是长上下文推理H200 的 141GB 显存优势明显。但如果只是 BERT 分类、Embedding 或 RerankH 系列通常太奢侈。五、B 系列Blackwell 最新一代高端但国内难常规采购B 系列是 NVIDIA 最新一代 Blackwell / Blackwell Ultra 架构。它不是普通企业“买几张卡上服务器”的思路而是更偏向 AI Factory、超大规模训练、超大推理集群。型号架构显存显存带宽典型形态国内采购情况价格参考B200Blackwell约 180192GB HBM3e约 8TB/sHGX / DGX B200国内常规采购难35万60万不稳定GB200 NVL72Blackwell13.4TB HBM3e / 整机柜576TB/s / 整机柜72 GPU 机柜基本非普通企业采购数百万美元级B300Blackwell Ultra288GB HBM3e约 8TB/sDGX / HGX B300国内常规采购难价格不透明GB300 NVL72Blackwell Ultra20TB HBM / 整机柜最高 576TB/s / 整机柜72 GPU 机柜极高门槛数百万美元级NVIDIA DGX B200 官方规格显示8 卡 DGX B200 系统总 GPU 显存为 1,440GB聚合 HBM3e 带宽为 64TB/sGB200 NVL72 官方规格显示 72 GPU 机柜拥有 13.4TB HBM3e 和 576TB/s 聚合带宽。GB300 NVL72 则进一步提升到 72 张 Blackwell Ultra GPU整柜 GPU 显存约 20TB。B 系列怎么选普通企业不建议把 B200 / GB200 / B300 作为近期落地预算。如果是写技术趋势、规划未来 AI Factory可以写入“远期演进方向”。如果是实际招投标或国产化环境下的资源方案建议优先写 A800、H20、L40S、A100、A40 这类更现实的卡。六、价格总表企业预算参考型号显存定位国内预算单卡价A1024GB轻量推理 / BERT / VDI2万3万A3024GB中小推理 / HPC2.5万3.5万A4048GB推理 / 图形 / 视觉4.5万7万A100 40G40GB训练 / 推理7万10万A100 80G80GB大模型训练 / 推理10万15万A800 80G80GB国内大模型训练 / 推理11万18万L424GB低功耗推理1.8万2.5万L2048GB国内推理卡3万4.5万L4048GB图形 AI 推理5万7万L40S48GB大模型推理6万8.5万H2096GB国内高端推理 / 训练10万18万H100 PCIe80GB高端训练 / 推理18万28万H100 SXM80GB高性能训练集群22万35万H200141GB长上下文 / 大模型训练25万45万B200180192GB最新一代训练 / 推理35万60万B300288GBBlackwell Ultra价格不透明公开市场中H100 的直接购买价格常见在约 2.5 万4 万美元区间A100 80GB 常见在约 1.5 万1.7 万美元区间L40S 公开报价常见在 7,5008,500 美元左右A40 公开渠道报价也常见在 7,0008,000 美元附近。A10、A30 在二手或翻新市场价格更低但企业采购时需要额外考虑质保、服务器兼容、散热、电源和售后。ReferencesNVIDIA A100 Tensor Core GPU 官方产品页NVIDIA A10 Tensor Core GPU DatasheetNVIDIA A30 Tensor Core GPU DatasheetNVIDIA A40 Data Center GPU DatasheetNVIDIA L4 Tensor Core GPU 官方产品页NVIDIA L40 Data Center GPU 官方产品页NVIDIA L40S GPU 官方产品页NVIDIA L20 公开规格参考页NVIDIA H100 Tensor Core GPU 官方产品页NVIDIA H200 Tensor Core GPU 官方产品页NVIDIA H20 公开规格参考页NVIDIA GB200 NVL72 官方产品页NVIDIA DGX B200 官方产品页NVIDIA GB300 NVL72 官方产品页NVIDIA DGX B300 官方文档ReutersNVIDIA H200 对华销售与审批报道ReutersNVIDIA Blackwell / B300 中国市场价格与限制报道IntuitionLabsNVIDIA AI GPU Pricing GuideJarvisLabsH100 Price Guide 2026
2026 NVIDIA AI GPU 选型指南：A / L / H / B 系列参数、价格
大模型时代GPU 选型已经不只是“显存越大越好”。训练、推理、Embedding、Rerank、意图分类、Token 优化、模型路由等不同任务对 GPU 的要求完全不同。本文梳理 NVIDIA 当前主流 AI GPU 系列包括A 系列、L 系列、H 系列、B 系列重点对比它们的核心参数、适用场景、国内采购情况和预算价格。说明NVIDIA 数据中心 GPU 通常没有统一公开零售价实际价格会受渠道、整机绑定、供需、进出口政策、是否二手、是否含税等因素影响。本文价格为 2026 年中企业预算参考区间适合做方案测算不适合作为最终采购报价。NVIDIA 官方参数主要参考 A100、H100、H200、L4、L40、L40S、A10、A30、A40 等产品页或数据表。一、先看结论不同系列怎么选系列代表型号定位适合场景采购建议A 系列A10、A30、A40、A100、A800Ampere 时代主力卡训练、推理、传统 AI、BERT、小模型服务国内存量大性价比稳定L 系列L4、L20、L40、L40S推理与图形混合卡大模型推理、视频、视觉、多媒体、轻量训练推理性价比较高H 系列H20、H100、H200Hopper 高性能 AI 卡大模型训练、高并发推理、长上下文性能强但价格和政策不稳定B 系列B200、GB200、B300、GB300Blackwell 最新一代超大模型训练、AI Factory、推理集群国内常规采购难度很高如果是企业级大模型平台比较现实的选择是场景推荐 GPUBERT / 分类模型 / Rerank / EmbeddingA10、A30、L4、L20、L40S7B14B 模型推理L40S、A800、H2032B72B 模型推理A800、H20、H100、H200大模型训练A800、H100、H200最新一代超大规模训练B200、GB200、B300但国内很难常规采购二、A 系列国内存量最大的 AI GPUA 系列基于 NVIDIA Ampere 架构是过去几年 AI 训练和推理的主力。A100 和 A800 仍然是国内不少企业训练集群的核心卡A10、A30、A40 则更多用于推理、小模型服务和图形计算。型号架构显存显存带宽功耗典型用途国内预算价A10Ampere24GB GDDR6600GB/s150W推理、BERT、轻量模型、VDI2万3万A30Ampere24GB HBM2933GB/s165W中小训练、推理、HPC2.5万3.5万A40Ampere48GB GDDR6696GB/s300W推理、图形、渲染、视觉 AI4.5万7万A100 40GAmpere40GB HBM2e约 1.5TB/s250W400W训练、推理7万10万A100 80GAmpere80GB HBM2e1.92.0TB/s300W400W大模型训练、推理10万15万A800 80GAmpere80GB HBM2e约 1.52.0TB/s视版本而定300W400W国内大模型训练、推理11万18万A10 的官方参数显示其拥有 24GB GDDR6、600GB/s 显存带宽A30 配备 24GB HBM2、933GB/s 带宽A40 配备 48GB GDDR6 ECC、696GB/s 带宽A100 80GB 则提供 80GB HBM2e 和约 1.92.0TB/s 显存带宽。A800 是面向中国市场的 A100 变体公开资料中常见 80GB HBM2e、受限互联带宽等配置。A 系列怎么选如果是BERT 分类、意图识别、Embedding、Rerank这种小模型服务A10、A30、A40 已经够用。如果是7B14B 大模型推理A40、A100、A800 更合适。如果是训练或多模型混部优先 A100 80G / A800 80G。三、L 系列推理性价比更高的一类卡L 系列主要面向数据中心推理、图形渲染、视频处理和 AI 混合负载。相比 A 系列L 系列的优势是功耗更低、推理效率更好尤其是 L40S已经成为不少企业大模型推理集群的选择。型号架构显存显存带宽功耗典型用途国内预算价L4Ada Lovelace24GB GDDR6300GB/s72W边缘推理、视频、轻量模型1.8万2.5万L20Ada Lovelace48GB GDDR6约 864GB/s275W300W中国市场推理卡、LLM 推理3万4.5万L40Ada Lovelace48GB GDDR6864GB/s300W图形、视觉、AI 推理5万7万L40SAda Lovelace48GB GDDR6864GB/s350W大模型推理、轻量训练、多媒体 AI6万8.5万L4 官方参数显示其 24GB 显存、300GB/s 带宽、72W TDP适合低功耗推理L40 和 L40S 均为 48GB GDDR6、864GB/s 显存带宽其中 L40S 更偏 AI 推理和生成式 AI 负载。L20 公开渠道资料显示其常见配置为 48GB GDDR6、864GB/s更多出现在中国市场服务器方案中。L 系列怎么选如果你做的是高并发推理L40S 通常比 A40 更值得考虑。A40 虽然也是 48GB但它更偏图形和通用计算L40S 更偏生成式 AI 推理。如果预算紧张、模型较小L4 / L20 更合适如果目标是 7B14B 模型服务L40S 更稳。四、H 系列当前高端 AI 训练和推理主力H 系列基于 Hopper 架构是目前大模型训练和高性能推理的重要选择。H100 是全球主流训练卡H200 是 H100 的大显存升级版H20 则是面向中国市场的特殊型号。型号架构显存显存带宽功耗典型用途国内预算价H20Hopper96GB HBM3约 4.0TB/s350W国内合规大模型推理、部分训练10万18万波动大H100 PCIeHopper80GB HBM3约 2.0TB/s350W大模型训练、推理18万28万H100 SXMHopper80GB HBM33.35TB/s700W 以内可配置高性能训练集群22万35万H100 NVLHopper94GB3.9TB/s350W400W大模型推理、双卡方案40万60万 / 双卡H200Hopper141GB HBM3e4.8TB/s600W700W长上下文推理、大模型训练25万45万H200 NVLHopper141GB HBM3e4.8TB/s600W 级高端推理、长上下文50万80万 / 双卡H100 官方规格显示H100 SXM 提供 80GB 显存、3.35TB/s 显存带宽并支持 FP8 Tensor CoreH100 NVL 提供 94GB 显存、3.9TB/s 带宽。H200 则升级到 141GB HBM3e 和 4.8TB/s 显存带宽主要面向更大的模型和更长上下文。H20 公开资料显示其常见配置为 96GB HBM3、约 4.0TB/s 带宽但实际采购和供货受政策影响较大。需要注意的是H 系列在国内采购高度受政策影响。Reuters 2026 年报道显示美国曾有条件批准部分 H200 对华销售但实际交付、数量和审批仍存在不确定性同年 7 月又有报道称中国正在考虑允许部分头部 AI 企业采购有限数量 H200。H 系列怎么选如果是大模型训练H100 / H200 仍然是强选择。如果是国内可落地采购H20 更现实。如果是长上下文推理H200 的 141GB 显存优势明显。但如果只是 BERT 分类、Embedding 或 RerankH 系列通常太奢侈。五、B 系列Blackwell 最新一代高端但国内难常规采购B 系列是 NVIDIA 最新一代 Blackwell / Blackwell Ultra 架构。它不是普通企业“买几张卡上服务器”的思路而是更偏向 AI Factory、超大规模训练、超大推理集群。型号架构显存显存带宽典型形态国内采购情况价格参考B200Blackwell约 180192GB HBM3e约 8TB/sHGX / DGX B200国内常规采购难35万60万不稳定GB200 NVL72Blackwell13.4TB HBM3e / 整机柜576TB/s / 整机柜72 GPU 机柜基本非普通企业采购数百万美元级B300Blackwell Ultra288GB HBM3e约 8TB/sDGX / HGX B300国内常规采购难价格不透明GB300 NVL72Blackwell Ultra20TB HBM / 整机柜最高 576TB/s / 整机柜72 GPU 机柜极高门槛数百万美元级NVIDIA DGX B200 官方规格显示8 卡 DGX B200 系统总 GPU 显存为 1,440GB聚合 HBM3e 带宽为 64TB/sGB200 NVL72 官方规格显示 72 GPU 机柜拥有 13.4TB HBM3e 和 576TB/s 聚合带宽。GB300 NVL72 则进一步提升到 72 张 Blackwell Ultra GPU整柜 GPU 显存约 20TB。B 系列怎么选普通企业不建议把 B200 / GB200 / B300 作为近期落地预算。如果是写技术趋势、规划未来 AI Factory可以写入“远期演进方向”。如果是实际招投标或国产化环境下的资源方案建议优先写 A800、H20、L40S、A100、A40 这类更现实的卡。六、价格总表企业预算参考型号显存定位国内预算单卡价A1024GB轻量推理 / BERT / VDI2万3万A3024GB中小推理 / HPC2.5万3.5万A4048GB推理 / 图形 / 视觉4.5万7万A100 40G40GB训练 / 推理7万10万A100 80G80GB大模型训练 / 推理10万15万A800 80G80GB国内大模型训练 / 推理11万18万L424GB低功耗推理1.8万2.5万L2048GB国内推理卡3万4.5万L4048GB图形 AI 推理5万7万L40S48GB大模型推理6万8.5万H2096GB国内高端推理 / 训练10万18万H100 PCIe80GB高端训练 / 推理18万28万H100 SXM80GB高性能训练集群22万35万H200141GB长上下文 / 大模型训练25万45万B200180192GB最新一代训练 / 推理35万60万B300288GBBlackwell Ultra价格不透明公开市场中H100 的直接购买价格常见在约 2.5 万4 万美元区间A100 80GB 常见在约 1.5 万1.7 万美元区间L40S 公开报价常见在 7,5008,500 美元左右A40 公开渠道报价也常见在 7,0008,000 美元附近。A10、A30 在二手或翻新市场价格更低但企业采购时需要额外考虑质保、服务器兼容、散热、电源和售后。ReferencesNVIDIA A100 Tensor Core GPU 官方产品页NVIDIA A10 Tensor Core GPU DatasheetNVIDIA A30 Tensor Core GPU DatasheetNVIDIA A40 Data Center GPU DatasheetNVIDIA L4 Tensor Core GPU 官方产品页NVIDIA L40 Data Center GPU 官方产品页NVIDIA L40S GPU 官方产品页NVIDIA L20 公开规格参考页NVIDIA H100 Tensor Core GPU 官方产品页NVIDIA H200 Tensor Core GPU 官方产品页NVIDIA H20 公开规格参考页NVIDIA GB200 NVL72 官方产品页NVIDIA DGX B200 官方产品页NVIDIA GB300 NVL72 官方产品页NVIDIA DGX B300 官方文档ReutersNVIDIA H200 对华销售与审批报道ReutersNVIDIA Blackwell / B300 中国市场价格与限制报道IntuitionLabsNVIDIA AI GPU Pricing GuideJarvisLabsH100 Price Guide 2026
