苹果大模型最大动作:开源M芯专用ML框架,能跑70亿大模型

AIGC动态11个月前发布 量子位
35 0 0

苹果大模型最大动作:开源M芯专用ML框架,能跑70亿大模型

AIGC动态欢迎阅读

原标题:苹果模型最大动作:开源M芯专用ML框架,能跑70亿大模型

关键字:框架,苹果,芯片,模型,上手

文章来源:量子位

内容字数:3141字

内容摘要:萧箫 发自 凹非寺量子位 | 公众号 QbitAI苹果M系列芯片专属的机器学习框架,开源即爆火!现在,用上这个框架,你就能直接在苹果GPU上跑70亿参数大模型、训练Transformer模型或是搞LoRA微调。它由苹果官方发布,风格与PyTorch相似,不过并不基于任何已有框架实现。LeCun等大佬纷纷赶来点赞转发。英伟达高级AI科学家Jim Fan赞叹称:这应该是目前苹果在开源AI开源上最大的动作了。甚至还有网友动起了iPhone上A芯的念头(手动狗头)所以,这个框架究竟长啥样?参考多个ML框架设计这个新框架名叫MLX,有探索机器学习(ml-explore)的意思。从功能来看,MLX主要有以下几点特性:API熟悉(包括C++ API、类似NumPy的Python API以及一些高级功能包近似于PyTorch的API)、可组合函数变换、惰性计算、动态图构建、多设备可用、统一内存。框架作者A…

原文链接:点此阅读原文:苹果大模型最大动作:开源M芯专用ML框架,能跑70亿大模型

联系作者

文章来源:量子位

作者微信:QbitAI

作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...