Mac专属大模型框架来了！两行代码部署，能聊本地数据，还支持中文

AIGC动态欢迎阅读

原标题：Mac专属大模型框架来了！两行代码部署，能聊本地数据，还支持中文
关键字：腾讯,模型,数据,框架,峰会
文章来源：量子位
内容字数：3422字

内容摘要：

克雷西发自凹非寺量子位 | 公众号 QbitAIMac用户，终于不用羡慕N卡玩家有专属大模型Chat with RTX了！
大神推出的新框架，让苹果电脑也跑起了本地大模型，而且只要两行代码就能完成部署。
仿照Chat with RTX，框架的名字就叫Chat with MLX（MLX是苹果机器学习框架），由一名OpenAI前员工打造。
黄院士的框架里有的功能，例如本地文档总结、YouTube视频分析，Chat with MLX里也都有。
而且包括中文在内共有11种可用语言，自带支持的开源大模型多达七种。
体验过的用户表示，虽然计算量负担对苹果设备可能大了点，但是新手也很容易上手，Chat with MLX真的是个好东西。
那么，Chat with MLX的实际效果究竟怎么样呢？
用MacBook部署本地大模型Chat with MLX已经集成到了pip命令中，所以在有pip的条件下，只需要一行代码就能完成安装：
pip install chat-with-mlx
安装完成后，在终端中输入chat-with-mlx并按回车，就会自动完成初始化并弹出网页（第一次启动及下载模型时需要连接

原文链接：Mac专属大模型框架来了！两行代码部署，能聊本地数据，还支持中文