麻省理工学院的研究显示设备上人工智能的前景广阔
高通人工智能研究中心旨在指导全球领先的研究人员,从QUVA实验室和IS中心到杜克大学和麻省理工学院的微系统技术实验室(L)。这些活动产生的有影响力的研究通常通过新论文与人工智能社区的其他成员分享,或通过高通技术公司的产品进行商业化,以扩大规模并改善我们的生活。我们采访了麻省理工学院L助理教授、机器学习界著名研究员宋瀚,谈论了他实验室的研究和最近在机器学习竞赛中获得的奖项。是什么让您对人工智能感兴趣?您想要解决哪些关键问题?人工智能正在为社会带来巨大利益,并具有解决未来人类基本问题的巨大潜力。深度神经网络在许多人工智能应用中都显示出显着的改进。然而,这种好处是以计算资源尤其是功率预算和工程资源方面的高成本为代价的。我们的目标是通过算法和硬件协同设计,致力于提高人工智能的效率,使能资源有限的人工智能。特别是,我们的目标是边缘设备上的高效人工智能,例如手机,甚至是由微控制器驱动的物联网设备。我们研究了模型压缩技术以减少计算资源,以及AuL技术以减少工程资源。我们最近在ILR'上出现的一次性网络(FA)技术始终优于最先进的(SA)神经架构搜索(NAS)方法IageNe精度提高高达bileNeV,同时将GU时间和排放量减少几个数量级。特别是,FA在移动设置<FLs下实现了新的SA8IageNe精度。麻省理工学院。
微系统技术实验室L的韩松教授。高通图像nefrall位于精度计算权衡曲线的左上角,效率很高。资料来源ai等人,nefrAllNewrk,ILR'。点击查看大图是什么吸引您加入高通人工智能研究中心?有几个原因。高通技术公司领先的人工智能研究为我们提供 以色列电报数据 了需要解决的现实问题。鉴于高通技术公司为超过十亿个具有人工智能功能的边缘设备提供支持,这是扩大我们的研究影响以造福人类社会的绝佳渠道。此外,高通技术公司在边缘设备的能效和性能方面拥有领先的人工智能产品,其用户友好的工具链允许学生将他们的研究应用到实际产品中。您想通过这项研究解决什么挑战?Qualenlgies拥有跨产品层的广泛平台解决方案选择,以及针对从智能手机到智能扬声器和相机等各种终端产品的定制硬件。鉴于硬件设备种类繁多,我们希望解决如何在不同的硬件平台上高效部署深度学习模型的挑战。困难在于不同的硬件平台具有不同的属性,例如并行性、缓存大小和内存带宽,因此需要专门的神经网络来最适合硬件。为每个硬件专门化模型既耗费工程成本,又耗费计算成本。这项研究的结果是什么?我们引入了。
https://zh-cn.afbdirectory.com/wp-content/uploads/2024/04/telegraph-data.png
新的AuL框架,用于在大量部署场景下高效部署深度学习。我们的关键思想是将模型训练与架构搜索分离,以最大限度地降低成本。为此,我们建议训练一个一次性的网络,支持不同的架构设置,例如深度、宽度、内核大小和分辨率。通过选择FA网络的不同部分来执行推理,无需重新训练。您可以在我们的FA论文中了解更多相关信息。高通图像nefrAll网络解决了针对不同硬件平台和不同效率约束优化人工智能模型的问题。FA与之前的AuL方法相比如何?以前的AuL方法侧重于在给定特定部署场景的情况下搜索神经网络架构。对于每个部署场景,以前的AuL方法都需要重复架构搜索过程,并从头开始重新训练生成的架构。因此,之前的AuL设计成本随着部署场景数量的增长而线性增长。相比之下,FA专注于训练支持多种部署场景的单一网络,而无需额外成本。FA的设计成本随着部署场景的数量保持不变。此外,与从头开始训练子网络相比,从FA网络中选择的子网络可以保持相同水平的准确性性能。通过几个时期的微调,他们甚至可以达到比从头开始训练更好的准确性。
頁:
[1]