标签:模型量化

WPS接入DeepSeek,秒变办公神器!

WPS 大家经常用来日常写作,虽然本身提供了AI功能,但可惜需要会员,本文教你三分钟接入最火的DeepSeek,让WPS秒变办公神器。 DeepSeek API申请地址:http:/...
阅读原文

AI赚钱副业~AI生成影视解说,半个月涨粉变现3.5W+!

这两年大家都在感叹生活不易,然而我想说的是,机会还是有的,但问题不在于有没有,而在于你是否能够认准机会,然后抓住它。 接触过很多咨询项目的人,发现...

Hy4 preview 轻量版

Hy4 preview 轻量版是腾讯混元推出的开源大模型量化压缩版本:通过Sherry 1.25bit稀疏量化与MIX-STQ1_0逐层混合精度,将约1.5TB的旗舰模型压缩至214GB,支持l...
阅读原文

Hy-MT2-1.8B

Hy-MT2-1.8B 是腾讯混元推出的端侧翻译大模型,1.8B参数支持33种语言互译,FLORES-200基准超越微软、豆包等商业API。提供2-bit与1.25-bit极致量化,440MB起手...
阅读原文

300行代码颠覆矩阵计算!DeepSeek开源DeepGEMM:FP8精度+MoE优化,LLM推理成本直降

原标题:300行代码颠覆矩阵计算!DeepSeek开源DeepGEMM:FP8精度+MoE优化,LLM推理成本直降 文章来源:AI范儿 内容字数:2230字DeepSeek开源周第三天:高性能...
阅读原文

DeepSeek最强专业拆解来了,清交复教授超硬核解读

DeepSeek的写作能力为何飞跃?PTX是否真正做到了绕开CUDA的垄断?
阅读原文

简单聊聊Deepseek V3的FP8训练

deepseek对训练fp8量化的观察和解决方法都很有启发,希望能看到fp8训练继续大放异彩
阅读原文