谈谈Apple Intelligence边缘推理和大模型隐私的问题

AIGC动态欢迎阅读

原标题：谈谈Apple Intelligence边缘推理和大模型隐私的问题
关键字：模型,用户,框架,神经网络,苹果
文章来源：算法邦
内容字数：0字

内容摘要：

直播预告 | 7月2日10点，「智猩猩AI新青年讲座」第242讲正式开讲，香港大学计算机系HKU-MMLAB二年级博士生梁志烜将直播讲解《利用技能学习的扩散策略实现层次化机器人轨迹生成》，欢迎扫名~对于Apple WDCC的更新虽然不是很惊艳, 也没有什么新奇的故事. 但是至少AI的故事让还在服役的iPhone7 ~ iPhone14都有了换机的冲动, 所以市值上涨也不足为奇了. 当然我们关注的更多的是背后的技术, 例如边缘推理是如何实现的, 用户隐私怎么保护的. 其实这个问题非常关键, 你看Musk对当前的边缘推理和Private Cloud Compute并没有反对, 只是反对OAI在OS Level调用API. 另一个层面来看,本质上Apple已经构建好了一个LLM OS的雏形.那么我们就来详细探索一下Apple边缘推理的实现,然后我在五六年前也因为GDPR等合规需求,当时在Cisco也实现了一套边缘推理框架, 因此后面会给一点我个人的经验和建议, 特别是云端推理如何使用公有云的问题以及端侧模型个性化的问题, 最后留了一个彩蛋~嘻嘻~01Apple 边缘推理框架1.1 端侧模

原文链接：谈谈Apple Intelligence边缘推理和大模型隐私的问题

联系作者

文章来源：算法邦
作者微信：allplusai
作者简介：智猩猩矩阵账号之一，聚焦生成式AI，重点关注模型与应用。