国际Gemma

Gemma 3-1B

Google Gemma 3 1B,极轻量模型

Google·1B 参数·Dense·发布于 2025-03-12

你的硬件评估

正在检测硬件...
未知

量化版本对比(GGUF / 本地运行)

磁盘约:该量化档典型 GGUF 单文件占用(未填 fileSize 时用同档显存约值代替)。 所需显存:在 GPU 上跑该档的约需(权重 + KV 等余量),站内人工标定。

格式位宽磁盘约所需显存质量预估速度状态
Q4_K_M4-bit0.6 GB0.6 GB
良好
未知
Q8_08-bit1 GB1 GB
优秀
未知
F1616-bit2 GB2 GB
无损
未知

显存需求一览

柱状长度为各档「所需显存」相对比例。

Q4_K_M
0.6 GB
Q8_0
1 GB
F16
2 GB
参数量

1B

上下文长度

32K tokens

架构

Dense

最低显存

0.6 GB

Q4_K_M · 本地运行约需

量化选项

3 种

适用场景

对话

资源链接

推荐硬件配置

Q4_K_M建议 ≥ 1 GB 显存(模型 0.6 GB + 15% 余量)
Q8_0建议 ≥ 2 GB 显存(模型 1 GB + 15% 余量)
F16建议 ≥ 3 GB 显存(模型 2 GB + 15% 余量)

延伸阅读

相关模型

其他Dense模型