萬安百科 › 机型词条 › NVIDIA GeForce RTX 3080 Ti

GeForce RTX 3080 Ti 是 NVIDIA Ampere 世代的消费旗舰高配档(2022-06 发售·官方产品页口径, 2026-11 核验):10240 CUDA 核(GA102)、12GB GDDR6X · 384bit · 912GB/s、350W、PCIe 4.0。 与 RTX 3090 同芯分档——显存差 12GB(12GB vs 24GB),算力差约 3% (官方口径对照)。AI 语境定位:12GB 单卡推理档——7B 级量化推理适用,但大模型场景受 12GB 显存 约束,上移 24GB 档(3090/4090)更合适。
| 维度 | RTX 3080(10GB) | RTX 3080 Ti(本词条·官方口径) | RTX 3090(词条) |
|---|---|---|---|
| 发布 | 2020-09 | 2021-06 | 2020-09 |
| CUDA | 8704 核 | 10240 核 | 10496 核 |
| 显存 | 10GB GDDR6X · 760GB/s | 12GB GDDR6X · 912GB/s | 24GB GDDR6X · 936GB/s |
| 功耗 | 320W | 350W | 350W |
| AI 档位 | 10GB 推理入门 | 12GB 推理档 | 24GB 推理普及档 |
口径:三档均=NVIDIA 官方产品页(2026-11 核验)。同芯 GA102 分档——显存容量为核心差异,CUDA 核数差距小。
| 项目 | 规格(NVIDIA 官方产品页口径) |
|---|---|
| 架构 | Ampere · GA102 |
| CUDA | 10240 核 · 1.67GHz Boost |
| 显存 | 12GB GDDR6X · 384bit · 912GB/s |
| RT/Tensor | 80 RT Core(二代)· 320 Tensor Core(三代) |
| 功耗 | TGP 350W · PCIe 4.0 x16 |
| AI 栈 | CUDA 全生态 · TensorRT 单卡推理(生态口径) |
| 场景 | 12GB 显存的适配口径(推算:权重×精度+开销) |
|---|---|
| 7B 级 | FP16/INT8 量化推理舒适(推算口径) |
| 13B 级 4-bit | 贴边缘可容(推算口径)——12GB 上限约束余量 |
| 30B 级 | 超单卡上限——上移 24GB 档(3090/4090)或多卡组合 |