量化模型 - OpenI

量化模型

Llama-3-Patronus-Lynx-8B-Instruct-Q4_K_M-GGUF

基于特定模型的量化大型语言模型，适用于自然语言处理等任务。

Qwen2.5-Coder-0.5B-Instruct-GGUF

Qwen2.5-Coder系列中的0.5B参数指令调优模型

EXAONE-3.5-2.4B-Instruct-GGUF

LG AI Research开发的双语文本生成模型

glider-gguf

高性能的量化语言模型

Llama-Lynx-70b-4bit-Quantized

70亿参数的量化文本生成模型