首页  >  行业资讯 >> 信息技术 >> 终端侧AI的“芯”战场

终端侧AI的“芯”战场

文章来源:和仕咨询整理 作者:和仕咨询整理 阅读量:407 发布时间:2024-03-13

近日召开的2024年世界移动通信大会(MWC 2024),AI成为了手机、PC等终端的创新焦点。尤其是去年以来席卷全球的生成式AI,更是让终端产品拥有了很多全新体验。

毫无疑问,AI手机、AI PC已经成为产业的未来发展趋势,而在可见的激烈的产品竞争背后,产业上游的芯片厂商也将展开新的角逐。

展会期间,包括高通、联发科、英特尔等在内的芯片厂商均展示了其在终端侧AI的最新能力。高通产品市场高级总监Ignacio Contreras表示,终端侧AI的商用进程已经开始,终端侧AI能够为用户带来即时性、可靠性、隐私以及个性化等诸多优势。

Canalys高级副总裁彭路平则表示,以往我们在手机上看到的AI都是一些比较特定功能的AI,即“Narrow AI”,这和生成式AI有本质上的区别。生成式AI所需要的硬件能力更高,最基本的就是芯片是否能支持运行本地化的大模型。

所以未来,AI手机以及AI PC的性能上限依然会由芯片厂商来定义。而对芯片厂商来说,现在能否抓住这波生成式AI浪潮,也将决定其在未来市场格局中的话语权。

大模型涌入手机

在MWC 2024期间,高通发布了全新的高通AI Hub,这是为开发者提供的AI模型库,包括传统AI模型和生成式AI模型,能够支持在骁龙和高通平台上进行部署。

据Ignacio Contreras介绍,高通AI Hub将支持超过75个AI模型,包括Whisper、ControlNet、Stable Diffusion和Baichuan-7B等,这些模型可在不同执行环境中打包,也能够在不同形态终端中实现终端侧AI性能。

不仅如此,AI模型库能够自动处理从源框架到主流执行环境的模型转换,直接与高通AI引擎Direct SDK协同工作。这意味着开发者只需要几行代码就可以获取模型,并将模型集成进应用程序。

对于AI Hub,彭路平认为,这是高通在开发者生态建设的尝试。“一方面,开发者能够通过这个平台找到更适合去运作的大模型,另一方面,怎么样使得不同的模型在不同的手机上运行得更顺畅,从用户体验上、开发者能力上,高通做了非常多的支持,这对于下一代AI创新是非常重要的。”

通过对大模型的应用,智能手机也在迎来一场AI革命。去年10月,高通在骁龙峰会上发布了第三代骁龙8移动平台,这是高通专为生成式AI打造的一款旗舰芯片。目前,来自小米、OPPO、iQOO、荣耀、三星等厂商的最新旗舰智能手机均已搭载该芯片,并展现出了一些独特的AI能力,比如小米的图像扩充、荣耀的智慧成片和智慧创建日程以及OPPO的AI消除等。

除此之外,高通在MWC期间还展示了很多AI的前沿应用。比如高通展示了首个在Android智能手机上运行的大语言和视觉助理大模型(LLaVA),这是一个超过70亿参数的大型多模态语言模型(LMM),可接受包括文本和图像在内的多种类型的数据输入,并能够与AI助手生成关于图像的多轮对话。

Ignacio Contreras表示,通过LLaVA模型,用户可以拍一张食材的照片,然后向AI助手提问:这些食材都是什么?根据这些食材能够做什么菜?每道菜的热量是多少?而AI助手能够基于视觉内容提供丰富的信息。

另外,高通展示了首个在Android手机上运行的LoRA模型。Ignacio Contreras称,LoRA能够在不改变底层模型的前提下,调整或定制模型的生成内容。“通过使用很小的适配器,大小仅为模型的2%,就能够个性化定制整个生成式AI模型的行为。”

在Ignacio Contreras看来,“LoRA是面向终端侧生成式AI的关键技术,它能够提升效率、可扩展性以及定制化能力。这一技术不仅能够运用于图像生成,也可以应用于大语言模型等多种生成式AI模型,是实现个性化生成式AI的高效方式。”

而作为高通在手机芯片领域的挑战者,联发科也将自己定义为“AI的推动者”。联发科的天玑9300和天玑8300都集成了生成式AI处理器,在MWC期间,联发科对外展示了多项端侧AI技术,包括文生图的SDXL Turbo、文生视频的Diffusion视频生成,以及其他端侧生成式AI的技能扩充,比如能够在设备上实时处理正在录制的人物影像,并支持生成不同动画风格的视频。

终端侧AI待爆发

除了手机,高通近年来不断拓展业务边界,希望将智能计算扩展至边缘侧几乎所有类型的终端,包括PC、汽车、Wi-Fi设备、网络基础设施等。

高通公司总裁兼CEO安蒙在接受媒体采访时指出,生成式AI将变革终端侧的用户体验,具备生成式AI能力的PC能够更好地理解用户需求,生成式AI还将带来全新的人车交互方式,支持用户与汽车直接进行对话。此外,生成式AI还将改变网络的运行方式,并为各行各业带来全新机遇。

所以,高通“终端侧AI”所指的终端并不只是手机。2024年,PC将是高通重点发力的领域。去年,高通发布了面向PC的骁龙X Elite平台,这是一款高通从零开始设计的产品,根据高通当时展示的测试数据,骁龙X Elite的性能已经超过目前市面上最领先的产品。

在MWC期间,高通展示了全球首个在Windows PC上运行的超过70亿参数的大型多模态语言模型(LMM),它能理解鸟鸣、音乐或家中的不同声音,并且能够基于这些信息进行对话。比如,多模态大语言模型能够理解用户输入的音乐类型和风格,为用户提供音乐的历史以及相似的音乐推荐,或通过对话的方式为用户调节周围的音乐。

据Ignacio Contreras介绍,PC端运行不同大小的模型所占用内存会有差异,对于这个70亿参数的大模型,高通是用4位整数运算进行量化,大概占用4GB内存空间。

另外在采访过程中,Ignacio Contreras还进行了一个对比演示。他使用分别搭载骁龙X Elite和搭载市场中常见X86芯片的两台笔记本电脑,同时运行集成Stable Diffusion插件的GIMP进行AI图像生成,最终,骁龙X Elite只需7.25秒就能生成一张图像,速度是X86竞品(22.26秒)的3倍。

可以看出,高通正在以挑战者的姿态冲击PC芯片市场,而作为守擂者,英特尔也在通过持续对AI PC的布局巩固自身地位。

在MWC期间,英特尔基于酷睿Ultra处理器推出了vPro平台。英特尔方面表示,vPro平台能够为大型企业、中小型企业以及包括教育部门在内的公共部门和边缘领域带来全新的PC体验。

英特尔称,2024年,宏碁、华硕、戴尔科技、Dynabook、富士通、惠普、联想、LG、Microsoft Surface、NEC、松下、三星和VAIO等合作伙伴将推出包括100多款笔记本电脑、二合一、台式机和入门级工作站在内的商用产品系列。

除了手机和PC,汽车、物联网等各个领域,也都在加速拥抱AI。有业内人士预测,2024年将是大模型的应用之年,这也意味着终端侧AI将迎来爆发之年。而麦肯锡在一份研究报告中指出,生成式AI有望对各行各业产生广泛影响,预计其每年可增加2.6万亿至4.4万亿美元的经济效益。

Online consultation

在线咨询

咨询热线

010-67280121