高通:AI发展重心正向边缘终端转移,智能体AI将成新趋势
来源:龙灵 发布时间:1 天前
分享至微信

6月18日,GSMA 2025 MWC上海大会正式开幕。在首日的“代理式人工智能峰会”上,高通技术公司AI/生成式AI产品管理副总裁Vinesh Sukumar博士发表演讲,分享了对AI发展趋势的最新见解。
据Vinesh Sukumar博士介绍,AI技术正进入全新阶段,其发展重心逐渐从云端向边缘终端转移。高通认为,AI将成为新的用户界面,并覆盖广泛的终端设备。为实现这一目标,高通已构建了覆盖多种边缘终端的硬件与软件技术,为智能体AI的发展奠定了坚实基础。
回顾AI发展历程,早期技术主要集中在感知AI领域,如图像分割、目标检测、分类和增强等,为智能手机体验提供了重要支持。随着时间推移,这些技术逐渐扩展到汽车、PC、XR设备及工业网络等新兴领域。如今,行业关注的重点已从单一感知数据转向多模态数据,包括文本、图像和视频等,这些数据均基于提示生成。通过将技术与不同应用场景结合,AI正在生产力、游戏和内容生成等领域创造全新的用户体验。
Vinesh Sukumar博士强调,高通非常重视生成式AI和智能体AI,并是最早展示大模型可在边缘运行的芯片厂商之一。他表示,高通正与众多模型开发者合作,推动大型基础模型向行业专用型模型转变,以实现边缘终端运行。这些专用模型可能包含70亿至100亿参数,并已在不同终端形态上逐步落地。
在模型发展趋势上,Vinesh Sukumar博士指出,过去人们普遍认为更大的模型意味着更高的质量。然而,从小语言模型(SLM)的快速发展来看,小模型的质量正在迅速追赶大模型。例如,部分小语言模型已达到Llama 3 700亿参数大模型的水平。
边缘模型的重要性日益凸显,因为它们能够为生产力和内容创作领域提供丰富体验。为应对终端侧部署的挑战,高通提供了AI软件栈,支持模型完全在边缘平台运行。高通还致力于为开发者提供机会,使应用能够在云端训练并在高通赋能的终端上运行。
过去12至18个月,高通在边缘AI领域实现了多项关键用例的商业化,每年赋能约200至300个AI应用。在消费领域,边缘AI已支持内容创作、照片编辑、图像修复等应用;在企业领域,包括代码生成在内的更多应用也逐步落地。
Vinesh Sukumar博士表示,AI正从单一模态向智能体AI领域转型。智能体AI能够融合多种数据模态,如图像、音频、文本、语音和视频,以理解用户意图并匹配多个应用调用AI处理能力,从而实现自动化操作。高通正通过强化基础技术研发,为智能体AI用例提供支持。
实现智能体AI体验面临诸多挑战,包括准确性、可预测性和一致性等问题。为此,高通提供了强大的AI软件栈,支持多种小语言模型以满足特定任务需求。此外,高通还通过打造CPU、GPU等通用计算单元,以及Hexagon NPU专用加速器,为快速响应用户需求提供硬件支持。
Vinesh Sukumar博士还提到,高通已将边缘推理技术分布式部署到多个终端。如果终端算力无法解决用户查询,系统会将任务转移至基于高通平台的本地边缘服务器;如果仍无法解决,则会借助中央云子系统,根据用户知识图谱提供更合理的回复,从而确保用户体验不受影响。
[ 新闻来源:龙灵,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!


龙灵
开创IC领域,共创美好未来!
查看更多
相关文章
混合键合技术将成AI芯片发展新趋势
2025-05-12
HDMI 2.2助力AI普及,高带宽应用成新趋势
2025-05-23
边缘AI加速发展,NXP高管谈Agentic AI技术挑战与前景
2025-05-21
AI推论芯片将成主流,边缘计算需求激增
2025-06-06
高通展示新款智能眼镜芯片,可独立运行AI任务
2025-06-11
热门搜索