黄仁勋皮衣了
原标题:英伟达新品“掌心AI超算”,¥1800跑8B多模态模型,算力暴增70%价格腰斩
文章来源:量子位
内容字数:1711字
英伟达推出新款Jetson Orin Nano开发版
在最新的发布会上,英伟达首席执行官黄仁勋展示了新版Jetson Orin Nano开发版套件,标志着该产品在性能和价格上的重大升级。这款被称为“掌心AI超算”的设备,不仅性能提升了70%,还将价格降低了50%。
性能与规格
新版Jetson Orin Nano的算力从40 TOPS提升至67 TOPS(INT8),内存带宽增加了50%,达到了102GB/s,功耗保持在仅25瓦。价格从499美元降至249美元(约人民币1800元)。这一提升使其在运行主流的7B和8B大模型(如阿里Qwen和Llama等量化版模型)时表现出色,尤其是在AI应用领域。
多摄像头支持与应用场景
新设备最高支持4个摄像头,能够运行8B的视觉语言模型和ViT模型,适用于创建基于RAG的机器人、视觉AI代理及AI机器人等多种应用。开发套件包括一个Jetson Orin Nano 8GB系统级模块(SoM)和参考载板,适合边缘AI应用的原型设计。
强大的硬件配置
Jetson Orin Nano配备6核Arm CPU和NVIDIA Ampere架构GPU,具备1024个CUDA核心和32个张量核心。这一配置支持多个并发AI应用管道与高性能推理,提供更高的分辨率与帧率。
软件生态与支持
该设备支持多种英伟达AI软件,包括NVIDIA ISAAC(用于机器人)、NVIDIA Metropolis(视觉AI)和NVIDIA Holoscan(传感器处理)。用户还可以利用NVIDIA Omniverse Replicator生成合成数据,并通过NVIDIA TAO工具包微调预训练模型,显著缩短开发时间。
总结与前景
黄仁勋表示,这款Jetson Orin Nano代表了一种全新的机器人处理器,尽管在推出初期不被理解,但如今已支持各种类型的机器人。新软件更新也将提升旧版开发套件用户的生成式AI性能,进一步巩固了英伟达在AI领域的领导地位。
总之,Jetson Orin Nano以其卓越的性能和亲民的价格,为开发者提供了一个理想的生成式AI解决方案,推动了边缘AI应用的发展。
联系作者
文章来源:量子位
作者微信:
作者简介:追踪人工智能新趋势,关注科技行业新突破