高通用一年一度的一场技术峰会,为其AI战略做了专题展示。
10月25日,高通在骁龙峰会上一举推出包括智能手机5G SoC和支持Windows 11的新一代旗舰PC芯片在内的AI技术平台。
从高通CEO安蒙在骁龙峰会上的主题演讲内容、措辞和介绍的旗舰芯片技术特性侧重点,可以看出,高通将AI作为战略核心,布局既久又广,且已形成相对完整的行业生态。
一般来说,供应链核心技术公司推出某项技术后,头部终端公司会迅速跟进,以迭代相应的C端应用。
“明年手机行业技术创新关键词估计是‘端侧AI’。”一位国内智能手机终端公司高管和华尔街见闻说。
11月1日,vivo推出端侧AI大模型“蓝心大模型”;小米也在此前不久推出的小米澎湃OS系统植入AI大模型,实现端侧AI技术落地;荣耀CEO赵明也在骁龙峰会上宣布,荣耀Magic6会支持端侧AI大模型。
在PC方面,联想于10月26日推出首款AI PC。联想集团董事长兼CEO杨元庆对华尔街见闻说,“AI PC预计将于2024年四季度落地。”
站在生成式AI技术、应用和供应链上下游关系的角度,看这场终端公司集体行为,不难发现,这正是高通长期以来推进终端侧AI以及5G+AI生态布局的结果映射。
当AI大模型跑上终端,当智能触手可及,移动计算行业新一轮的创新周期也在就此拉开,而骁龙也在不断证明自己有能力成为面向生成式AI的首选平台。
AI为手机终端注入新动力
旗舰智能手机SoC平台,一直是骁龙峰会的绝对主角。
此次发布的5G旗舰SoC平台——骁龙8 Gen 3(第三代骁龙8),与以往稍有不同:这是高通首颗生成式AI移动旗舰芯片,被高通冠以“终端侧AI集大成者”标签,通过生成式AI再次树立了旗舰芯片平台性能新标杆。
AI何以如此重要?
高通公司CEO安蒙说,“我们正在进入AI时代,终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。骁龙在助力塑造和把握终端侧生成式AI机遇方面独具优势,未来骁龙赋能的生成式AI体验将无处不在。”
“第三代骁龙8将高性能AI注入整个平台系统,给消费者带来顶级性能和非凡体验。”高通技术公司高级副总裁兼手机业务总经理Chris Patrick说,“该平台将开启生成式AI的新时代——赋能用户创作独特内容、帮助生产力提升,并实现其他突破性的用例。”
本代骁龙移动SoC 5G旗舰芯片,与此前骁龙8 Gen 2一样,也是台积电4nm制程工艺,为高通转投台积电后的第二颗大迭代版本芯片。因此,骁龙8 Gen 2出色的功耗控制特性,也得以延续。
虽然高通在技术峰会上,没有详细介绍骁龙8 Gen 3的结构,但据公开报道,其采用了1+5+2的全新CPU三丛集架构:1颗主频为3.3GHz的Cortex-X4大核处理器;5颗A720处理器中,有3颗频率为3.2GHz,2颗是3.0GHz频率,以及2颗频率为2.3GHz的A520处理器。
基于Kryo 64位架构,骁龙8 Gen 3的CPU性能,比前代产品提高30%。性能提升幅度如此显著,能效竟然还能提升20%,可见高通的设计水平。
骁龙8 Gen 3的GPU为Adreno 750,性能提升25%,能效提高20%;支持硬件光线追踪技术,光追性能提升高达40%,降低智能移动终端10%的功耗,支持高达240 FPS(每秒传输帧数:Frame Per Second)的高帧率游戏。
骁龙8 Gen 3最显著的技术特性,并不是其CPU和GPU的性能提升和能耗控制,而是,这是高通首个专为生成式AI(AIGC:Artificial Intelligence Generated Content)而研发的移动平台。
所谓生成式AI,简单说,就是在智能移动终端上,也能运行AI大模型。
基于NPU,通过训练大规模的数据集,学习抽象出数据的本质规律,再利用生成模型,形成全新的真实数据。这种数据可能是文本,或图像,也可能是音视频。这种新技术,能给移动终端用户带来前所未有的新体验。
骁龙8 Gen 3 AI能力的发挥主要依靠高通AI引擎,当然其中硬件层面最核心的部分就是 Hexagon NPU。Hexagon一直被高通赋予专门的AI计算能耗控制和性能担当。与前代平台相比,本代旗舰平台的Hexagon处理器推理速度提升98%,能效提升40%。
生成式AI带来的新体验的丰富性,与移动平台能生成多少新数据有关。目前,骁龙8 Gen 3能支持运行超过100亿个参数的大模型;若面向70亿参数大语言模型,能做到每秒生成20个Token。这个平台技术之强悍,支持在1秒内,通过Stable Diffusion,即可生成1张图片。
就体验端来说,高通举例,这些AI能力,支持用户在拍摄视频过程中,擦除不需要的对象,也能同时生成/切换实时视频中的背景。可以预见,用搭载高通骁龙8 Gen 3的手机用户,在朋友圈假日秀视频,可以足不出户,“游览”天下,并做出分享。
AI PC技术平台催生新行业
虽然旗舰智能手机芯片一直是传统重点,但此次骁龙峰会的风头却似乎被骁龙X Elite——高通专为AI PC研发的、基于Arm架构的新计算平台抢了去。
这并不是高通推出的首款基于Arm架构的PC芯片。2018年,高通发布第一代Arm PC芯片骁龙8CX。
骁龙X Elite采用全新结构设计,集成Oryon CPU、Adreno GPU和Hexagon NPU,在具备优异性能和能耗控制的同时,更显著的特点是AI特性出色,其采用4nm工艺制程。
这颗芯片搭载的高通AI引擎,既有通用CPU和GPU硬件加速单元,另外还配置了一颗专为高算力AI工作负载设计的高性能AI硬件加速单元——Hexagon处理器。
出于对PC本身作为计算平台的使用场景考虑,骁龙X Elite也集成了独立的Sensing Hub。这个Hub包含Micro NPU、ISP、DSP和独立内存单元。
这就是说,这颗芯片能不依赖CPU,直接执行更多的AI计算任务,还能有效降低产品本身的功耗。包括这些模块的集成式结构,共同构成一整套异构计算系统,以此充分释放高通AI引擎的AI加速能力。
据高通披露,这颗PC AI芯片的处理速度是x86竞品的4.5倍;凭此性能,骁龙X Elite支持在端侧运行超过130亿参数的生成式AI模型,可以实现每秒生成30个token。
从技术角度看,大型语言模型(LLM)有三要素,即算力、算法和数据。这三者的相互关系是,算力强弱,决定算法效率,而算法又决定数据有效性;反过来,数据是训练算法的要件,能决定AI学到的知识量。
骁龙X Elite的AI算力如何?据高通披露,高通AI引擎的算力达到75TOPS。其中,高通Hexagon NPU提供的算力为45TOPS。
骁龙X Elite的Oryon CPU内核,由高通2021年初收购的Nuvia公司研发:拥有12个高性能内核(3个集群,每个集群包括4个核心),最高主频3.8GHz;内存最高支持LPDDR5x 8533MT/s的规格,最大64GB,8通道,带宽136GB/s。
高通称,这颗芯片的CPU和GPU性能是同级x86架构竞品的两倍,实现相同性能能耗还降低了70%。
高通技术公司高级副总裁兼计算与游戏业务总经理Kedar Kondap表示,“骁龙X Elite标志着计算技术创新的巨大飞跃,全新定制的高通Oryon CPU性能强悍,将为消费者带来惊人的能效,并将创造力和生产力提升至全新水平。强大的终端侧AI将支持无缝的多任务处理和全新的直观用户体验,赋能消费者和企业的创作和发展。”
高通认为,AI正在改变人们与PC的交互方式。骁龙X Elite旨在支持未来的高负载智能任务,赋能生产力、创造力和无处不在的沉浸式娱乐体验。高通预计,搭载骁龙X Elite的PC将于2024年中面市。
联想集团董事长兼CEO杨元庆对华尔街见闻说,“AI PC预计将于2024年四季度大规模落地。这是一种全新的技术产品。”联想于今年10月26日推出首款AI PC。
好体验:技术底座生态造
高通极具竞争力的技术,真正的指向,并不仅限于性能和AI侧重,高通有着更多的体系化考量。这既是应用高通技术带来的优异体验真正的源泉,也是高通在未来整合生态力量的隐形战略。
这究竟是什么?
高通推出了全新的跨平台技术“Snapdragon Seamless”,这是一项极具野心的整合技术。在骁龙峰会上,这项技术并没有被着重解释,但其战略意义或许比推出AI PC芯片更强。正所谓,“字越少,事越大”。
Snapdragon Seamless具有整合这些搭载高通AI技术平台的多品牌终端能力:实现多台终端跨多个操作系统(如Android、Windows和其他操作系统)无缝连接,以及共享外设(成为事实上的分布式终端系统)和数据。
目前,包括微软、Android、小米、华硕、荣耀、联想和OPPO在内的公司,正与高通合作,联合创建Snapdragon Seamless赋能的多终端体验。这项技术,最早将于今年在全球范围发布的终端平台上落地。
这相当于高通从两方面推动AI在包括手机、PC在内的终端侧落地——
首先是为下游终端公司提供高性能AI算力平台,比如骁龙X Elite和骁龙8 Gen 3;其次,搭建“朋友圈”(生态体系),通过新技术打通跨终端、跨品牌和跨操作系统的无缝连接,将之以技术手段整合成一个更广泛的、能共享外设和数据的巨型终端系统。
从体验端看,这套巨型终端系统,产生的实际应用前景,能和苹果推出iPhone带来的革命性的新交互方式,催生出无与伦比的全新体验、进而产生全新行业相媲美。
从2007年1月9日苹果公司创始人、CEO史蒂夫·乔布斯发布初代iPhone至今,以智能手机为核心的智能终端,因缺乏技术创新,在近几年进入存量市场阶段。
2022年12月,OpenAI推出现象级产品“ChatGPT”,生成式AI商业化的应用前景,再现曙光。
由此,新一代生成式AI技术被寄予在智能终端上得以结合,出现新的交互方式和全新体验之厚望,并有望带动行业新一轮增长。这种趋势,目前看起来无比清晰。
对于未来的全新可能和趋势,一些行业巨头常能提前洞察,并做出相应布局。比如1987年,张忠谋力排众议,成立台积电,开创了专业晶圆代工行业。在事后看来,这是一个极具前瞻洞察特性的战略布局。
对于AI技术与行业未来发展的关系,高通显然也早有认知并做了“张忠谋式”的长期布局。就华尔街见闻长期观察发现,AI尤其是终端侧AI是高通公司目前的战略重点;但高通构建AI生态版图,却已长达15年。
最能说明高通对AI和智能终端关系的认识,可以从今年年中高通发布的AI白皮书中看到:高通认为未来的AI将会是混合架构,既需要云,也需要数十亿能以低功耗做高性能AI运算的网联终端。
事实上,生成式AI、大语言模型(LLM)带来了灯塔式指引。但是,AI要真正落地,离不开硬件和设备的负载;而高通长期努力的方向就是提供高速、低功耗的AI计算平台,为行业提供技术底座。
站在高通提供的“技术地基”之上,从产业链关系看,高通居于终端公司上游。作为下游,例如联想,杨元庆认为,“未来的PC将是AI PC,未来的手机将是AI手机,未来的工作站将是AI工作站。智能设备是用户的数字延伸,如同用户的双胞胎,我们称之为‘个人AI双胞胎’。”
例如荣耀、小米和vivo等终端手机厂商,都在近期“集体”宣布了各自的端侧AI模型落地的应用和系统布局进展。
正所谓“其来也渐,其入也深”,生成式AI对新行业、新体验影响之深远,难以事前测度:技术并非瞬间即来,一蹴而就,而是在不知不觉间,不为人知地或快或慢,逐渐成型。最终,成为全新交互方式和应用体验的技术催化。
事实证明,一如高通这样的行业技术巨头,对于AI应用需求和带来的可能的变化之洞察,并以此提前做出相应的生态布局,正在开出极为绚烂的AI之花。