SlotStream官网,开源本地LLM推理引擎,SSD专家流式加载让低内存Mac运行125B MoE大模型。
开源Swift+Metal推理运行时,利用MoE让Mac用4.3GB跑80B大模型。
Sand.ai开源的千亿参数MoE多模态视频生成模型,114B总参数仅激活6B
AcgnHub官网入口网址,AcgnHub是一个免费分享并收录...