萬安百科 › 机型词条 › NVIDIA GeForce RTX 3090

GeForce RTX 3090 是 NVIDIA Ampere 世代的消费旗舰(2020-09-23 发布,官方产品页口径, 2026-11 核验)——官方口径"BFGPU":10496 CUDA 核(GA102)、24GB GDDR6X · 384bit · 936GB/s、 FP32 约 35.6 TFLOPS、350W。AI 语境定位:24GB 单卡推理的上一代普及档——消费卡里最早普及 24GB 大显存的档位,AI 推理保有量大(市场口径),与 RTX 4090 组成 24GB 档的流通双主力。
| 维度 | RTX 3090(本词条·官方口径) | RTX 4090(词条·官方口径) |
|---|---|---|
| 架构 | Ampere(GA102)· 2020 | Ada Lovelace(AD102)· 2022 |
| CUDA | 10496 核 · 35.6 TFLOPS FP32 | 16384 核 · 82.6 TFLOPS FP32 |
| 显存 | 24GB GDDR6X · 936GB/s | 24GB GDDR6X · 1008GB/s |
| 功耗 | 350W | 450W |
| AI 档位 | 24GB 推理普及档(上代) | 24GB 推理普及档(现役) |
口径:3090 列=NVIDIA 官方产品页(2026-11 核验);4090 列=官方页口径。两卡同为 24GB——显存容量持平、算力带宽差一代,选型按吞吐实测与预算定。
| 项目 | 规格(NVIDIA 官方产品页口径) |
|---|---|
| 架构 | Ampere · GA102 |
| CUDA | 10496 核 · 35.6 TFLOPS FP32 · 1.70GHz Boost |
| 显存 | 24GB GDDR6X · 384bit · 936GB/s(官方口径) |
| 功耗 | TGP 350W · PCIe 4.0 x16 |
| 输出 | 3× DP 1.4a + HDMI 2.1(8K·官方口径) |
| 形态 | 三槽级旗舰散热(各 AIC 版型各异) |
| AI 栈 | CUDA 全生态 · TensorRT 单卡推理(生态口径) |
| 场景 | 24GB 显存的适配口径(推算:权重×精度+开销) |
|---|---|
| 7B–14B 级 | FP16/INT8/4-bit 量化舒适——本地推理与微调入门(推算口径) |
| 30B 级 4-bit | 贴边缘可容(推算口径)——长上下文按 24GB 余量核算 |
| 70B 级 | 超单卡上限——双卡组合或上移数据中心卡线 |