标签:大模型推理优化

WPS接入DeepSeek,秒变办公神器!

WPS 大家经常用来日常写作,虽然本身提供了AI功能,但可惜需要会员,本文教你三分钟接入最火的DeepSeek,让WPS秒变办公神器。 DeepSeek API申请地址:http:/...
阅读原文

AI赚钱副业~AI生成影视解说,半个月涨粉变现3.5W+!

这两年大家都在感叹生活不易,然而我想说的是,机会还是有的,但问题不在于有没有,而在于你是否能够认准机会,然后抓住它。 接触过很多咨询项目的人,发现...

字节跳动开源AIBrix:为vLLM打造高性能推理控制面

原标题:字节跳动开源AIBrix:为vLLM打造高性能推理控制面 文章来源:小夏聊AIGC 内容字数:840字字节跳动开源AIBrix:为大语言模型推理加速赋能 在人工智能...
阅读原文

强化学习与大模型后训练:DeepSeek R1 如何获得推理能力?

DeepSeek 正在通过其开源模型 DeepSeek-R1 革新 AI 产业,尽管资源有限,却能媲美 OpenAI 的能力。通过让前沿大模型更广泛地开放,DeepSeek 推动了全球的创新...
阅读原文

部署满血DeepSeek R1的避坑指南-vLLM 0.7.1

开工第一篇,部署满血deepseek r1的避坑指南
阅读原文