国产Apache 2.0

Qwen3.5-2B

Qwen3.5 2B,超轻量原生多模态,适合边缘设备

Alibaba·2B 参数·Dense·发布于 2026-03-02

你的硬件评估

正在检测硬件...
未知

量化版本对比(GGUF / 本地运行)

磁盘约:该量化档典型 GGUF 单文件占用(未填 fileSize 时用同档显存约值代替)。 所需显存:在 GPU 上跑该档的约需(权重 + KV 等余量),站内人工标定。

格式位宽磁盘约所需显存质量预估速度状态
Q4_K_M4-bit1.3 GB1.3 GB
良好
未知
Q8_08-bit2.1 GB2.1 GB
优秀
未知
F1616-bit4 GB4 GB
无损
未知

显存需求一览

柱状长度为各档「所需显存」相对比例。

Q4_K_M
1.3 GB
Q8_0
2.1 GB
F16
4 GB
参数量

2B

上下文长度

256K tokens

架构

Dense

最低显存

1.3 GB

Q4_K_M · 本地运行约需

量化选项

3 种

适用场景

对话多模态

资源链接

推荐硬件配置

Q4_K_M建议 ≥ 2 GB 显存(模型 1.3 GB + 15% 余量)
Q8_0建议 ≥ 3 GB 显存(模型 2.1 GB + 15% 余量)
F16建议 ≥ 5 GB 显存(模型 4 GB + 15% 余量)

延伸阅读

相关模型

其他Dense模型