苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

AIGC动态1年前 (2023)发布 机器之心
90 0 0

苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

AIGC动态欢迎阅读

原标题:苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

关键字:苹果,框架,示例,芯片,模型

文章来源:机器之心

内容字数:3427字

内容摘要:机器之心报道编辑:杜伟、小舟苹果的这个新框架 MLX 不仅拥有 PyTorch 风格的 API,还为开发者提供了很多经典示例(比如 Llama、LoRa、Stable Diffusion 和 Whisper)。2020 年 11 月,苹果推出 M1 芯片,其速度之快、功能之强大一时令人惊艳。2022 年苹果又推出了 M2,今年 10 月,M3 芯片正式登场。苹果在发布芯片的同时,也非常注重在其芯片上训练和部署 AI 模型的能力。苹果推出的 ML Compute 可用于在 Mac 上进行 TensorFlow 模型的训练。PyTorch 则支持在 M1 版本的 Mac 上进行 GPU 加速的 PyTorch 机器学习模型训练,使用苹果 Metal Performance Shaders (MPS) 作为后端来实现。这些使得 Mac 用户能够在本地训练神经网络。现在,苹果宣布推出专门在 App…

原文链接:点此阅读原文:苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

联系作者

文章来源:机器之心

作者微信:almosthuman2014

作者简介:专业的人工智能媒体和产业服务平台

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...