必威控股有限公司-集装箱数据中心与微型IDC代工集成服务商

您好!欢迎访问必威官方平台!必威控股有限公司专注集装箱数据中心与边缘微型IDC底层代工集成。

运维监控时间
MON-SUN 7x24 小时

全国服务热线
0755-27905569

公司总部地址
深圳市宝安区西乡街道宝民二路东方雅苑11号

行业算力资讯

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用

来源:网络日期:2026-09-10 浏览:

  智东西9月9日报道,今日,在Arm Create开发者大会上,Arm推出,提供针对Arm优化的模型、代码、工作流和学习路径,让开发者与智能体都能便捷地在Arm计算平台范围内完成AI软件的发现、优化及部署。

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图1)

  无论是构建游戏、普通应用、智能体还是其他AI系统,开发者都能从中获得具体指导和可直接使用的开发资源。

  开发者可以查找面向特定任务的预优化模型,获取性能与准确率数据,对比延迟、内存占用和模型规模,并访问代码示例及部署工作流。

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图2)

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图3)

  采用单线程执行与混合量化配置,搭载Q8_0 talker与code predictor组合方案,Qwen3-TTS在vivo X300手机上通过第二代Arm可伸缩矩阵扩展(SME2)的加速,实现了超过4倍的速度提升。

  相关必威科技有限公司工具,支持开发者导入包括专有模型在内的自有模型,并在Arm平台上开展性能分析与优化。

  火山引擎等合作伙伴合作,推动基于Arm AGI CPU的智能体沙箱。沙箱可以为智能体提供安全、隔离且能够弹性扩展的执行环境。

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图4)

  一、Arm AI Portal:各种预优化模型按需选,可对比延迟、内存占用等数据

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图5)

  如何选择模型,如何决定计算任务的部署位置,如何把不同的软件和硬件组合成系统,以及如何验证产品在真实设备上的表现?

  Arm AI Portal覆盖云AI、边缘AI和物理AI领域的Arm计算平台,可帮助开发者快速定位适配目标场景的优化模型,提高开发速度,缩短寻找模型、测试性能和研究硬件特性的时间。

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图6)

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图7)

  Hugging Face获取,Portal相关资源则可通过模型上下文协议(MCP)供编程智能体访问,使智能体了解应该怎样使用Arm特定技术。

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图8)

  Arm Performix是一个性能分析工具包,可在应用运行时采集性能数据,识别代码热点以及CPU、缓存、内存带宽和资源利用率等方面的瓶颈。

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图9)

Arm发了个“挑模型神器”针对硬件优化能直观对比延迟和内存占用(图10)

  CSS for Mobile 2,其中包括新的C2 CPU集群,以及集成专用神经网络加速器的Mali G2-Ultra NX GPU。这意味着,开发者不仅可以在边缘设备上运行AI,也可以把AI用于图形渲染,在设备端实现AI原生图形体验。

  Neoverse CSS N4,并披露Arm AGI CPU生态合作新进展。这些产品为云基础设施提供了更高的能效和计算密度,用于应对越来越多样化的智能体AI工作负载。

  全面设计生态项目(Total Design)生态扩展到物理AI领域,并联合生态伙伴发展机器人能力框架,希望构建一套共同语言,让行业能够更清楚地描述机器人的能力、行为、输出以及系统要求。

行业算力资讯 丨NEWS

联系方式丨CONTACT

  • 全国热线:0755-27905569
  • 传真热线:0755-27905543
  • 业务咨询:0755-27905569
  • 企业邮箱:szjiater1@163.com
首页
电话
短信
联系