Mac专属大模型框架来了!两行代码部署,能聊本地数据,还支持中文

AIGC动态9个月前发布 量子位
11 0 0

Mac专属大模型框架来了!两行代码部署,能聊本地数据,还支持中文

AIGC动态欢迎阅读

原标题:Mac专属大模型框架来了!两行代码部署,能聊本地数据,还支持中文
关键字:腾讯,模型,数据,框架,峰会
文章来源:量子位
内容字数:3422字

内容摘要:


克雷西 发自 凹非寺量子位 | 公众号 QbitAIMac用户,终于不用羡慕N卡玩家有专属大模型Chat with RTX了!
大神推出的新框架,让苹果电脑也跑起了本地大模型,而且只要两行代码就能完成部署。
仿照Chat with RTX,框架的名字就叫Chat with MLX(MLX是苹果机器学习框架),由一名OpenAI前员工打造。
黄院士的框架里有的功能,例如本地文档总结、YouTube视频分析,Chat with MLX里也都有。
而且包括中文在内共有11种可用语言,自带支持的开源大模型多达七种。
体验过的用户表示,虽然计算量负担对苹果设备可能大了点,但是新手也很容易上手,Chat with MLX真的是个好东西。
那么,Chat with MLX的实际效果究竟怎么样呢?
用MacBook部署本地大模型Chat with MLX已经集成到了pip命令中,所以在有pip的条件下,只需要一行代码就能完成安装:
pip install chat-with-mlx
安装完成后,在终端中输入chat-with-mlx并按回车,就会自动完成初始化并弹出网页(第一次启动及下载模型时需要连接


原文链接:Mac专属大模型框架来了!两行代码部署,能聊本地数据,还支持中文

联系作者

文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...