国际MoEApache 2.0

Gemma 4-26B-A4B

Google Gemma 4 MoE 模型,26B 总参数仅激活 4B,推理速度接近 4B 模型,性能远超同级

Google·26B 参数·MoE·发布于 2026-04

你的硬件评估

正在检测硬件...
未知
参数量

26B

激活 4B

上下文长度

256K tokens

架构

MoE

26B 总参数

最低显存

15.6 GB

Q4_K_M 量化

量化选项

3 种

适用场景

对话多模态推理

量化版本对比

格式位宽所需显存质量预估速度状态
Q4_K_M4-bit15.6 GB
良好
未知
Q8_08-bit25 GB
优秀
未知
F1616-bit48 GB
无损
未知

显存需求一览

Q4_K_M
15.6 GB
Q8_0
25 GB
F16
48 GB

资源链接

💡 关于 MoE 架构

Gemma 4-26B-A4B 采用 Mixture of Experts (MoE) 架构,总参数量为 26B, 但每次推理仅激活 4B 参数。虽然推理计算量较小, 但完整模型权重仍需全部加载到显存中,因此显存需求按总参数量计算。 实际推理速度会比同等显存占用的 Dense 模型更快。

推荐硬件配置

Q4_K_M建议 ≥ 18 GB 显存(模型 15.6 GB + 15% 余量)
Q8_0建议 ≥ 29 GB 显存(模型 25 GB + 15% 余量)
F16建议 ≥ 56 GB 显存(模型 48 GB + 15% 余量)