边缘AI的算力跃迁,本质是在重构人、机器与物理世界的交互范式。
原标题:AI加速涌向边缘,Armv9首次亮相IoT,助力物联网升级
文章来源:智东西
内容字数:7818字
Armv9边缘AI计算平台:重构人机物交互
本文总结了Arm发布的全球首个专为物联网优化的Armv9边缘AI计算平台,及其对边缘AI领域带来的变革性影响。该平台以Cortex-A320 CPU和Arm Ethos-U85 NPU为核心,实现了CPU和NPU的深度融合,显著提升了边缘AI的计算性能和能效,并增强了安全性。
1. 边缘AI的挑战与机遇
随着AI技术的快速发展,越来越多的AI工作负载转移到边缘侧,带来了计算性能瓶颈和数据安全挑战。在工业质检、自动驾驶、智慧医疗等领域,高效、安全的边缘AI计算至关重要。IoT市场作为边缘智能的代表性领域,对高性能、低功耗、安全可靠的边缘AI计算平台的需求日益增长。
2. Armv9平台的性能提升与安全特性
Arm Cortex-A320 CPU相比前代产品,AI计算性能提升高达10倍,能效提升达50%。它与Ethos-U85 NPU协同工作,构成异构计算平台,支持多模态环境感知与理解,并能运行超过10亿参数的大模型。此外,Armv9架构支持MTE、PAC、BTI和S-EL2虚拟化等四大安全特性,为边缘设备提供端到端的安全防护。
3. KleidiAI:加速IoT边缘AI应用落地
Arm将KleidiAI软件库拓展到IoT领域,为开发者提供性能优化工具和软件库支持。KleidiAI能够帮助开发者轻松实现AI应用在Arm CPU上的最佳性能,降低开发门槛和成本,并兼容多种操作系统和AI框架,进一步提升开发效率和灵活性。 这使得Cortex-A320能够在多种操作系统和应用场景中灵活适配,拓展了合作伙伴的产品选择空间。
4. Arm软硬件协同,赋能IoT边缘AI
Arm通过Cortex-A320和Ethos-U85组成的硬件平台以及KleidiAI软件库,实现了软硬件协同,为边缘AI的加速发展和应用落地提供了有力支持。这标志着Arm在赋能AI领域迈出了重要一步,也为IoT市场带来了更多创新和发展可能性。 Armv9架构的优势特性在IoT市场的落地,将重构人、机器与物理世界的交互范式,推动边缘AI的快速发展。
5. 未来展望
未来,边缘AI计算需求将持续增长,Arm的边缘AI计算平台将在IoT生态系统中扮演至关重要的角色,为各细分市场带来更多益处。 Arm的软硬件结合策略将持续推动边缘AI技术创新和应用落地,为智能物联网时代奠定坚实基础。
联系作者
文章来源:智东西
作者微信:
作者简介:智能产业新媒体!智东西专注报道人工智能主导的前沿技术发展,和技术应用带来的千行百业产业升级。聚焦智能变革,服务产业升级。