GPTQ量化 - OpenI

GPTQ量化

Qwen2.5-Coder-3B-Instruct-GPTQ-Int8

Qwen2.5-Coder系列中的3B参数量指令调优模型

Qwen2.5-Coder-1.5B-Instruct-GPTQ-Int8

Qwen2.5-Coder系列的1.5B参数代码生成模型

Qwen2.5-Coder-0.5B-Instruct-GPTQ-Int4

Qwen2.5-Coder系列的0.5B参数代码生成模型

Qwen2.5-Coder-0.5B-Instruct-GPTQ-Int8

Qwen2.5-Coder系列中的0.5B参数量指令调优模型

Qwen2.5-Coder-3B-Instruct-GPTQ-Int4

Qwen2.5-Coder系列中的3B参数指令调优模型