在人工智能技术加速向终端设备渗透的背景下,高通技术公司近日正式发布了全新的AI软件栈产品组合。该产品组合旨在为智能手机、PC、汽车、物联网及扩展现实(XR)等各类智能终端提供统一、高效、可扩展的AI软件开发平台,显著降低开发者的创新门槛,加速端侧AI应用的落地与普及。
统一架构,覆盖全场景智能终端
高通此次发布的AI软件栈产品组合以“一次开发,多端部署”为核心理念,整合了编译器、运行时、模型优化工具、推理引擎及配套的开发套件。通过抽象底层异构计算资源(CPU、GPU、NPU及传感器),开发者无需针对不同硬件深奥的算力特性进行重复适配,即可将训练好的AI模型高效部署到从低功耗穿戴设备到高性能汽车计算平台的全系列终端上。
高通技术公司产品管理副总裁表示:“随着AI从云端向边缘和终端侧迁移,碎片化的开发环境成为制约创新的主要瓶颈。我们的AI软件栈通过统一的API和工具链,让开发者能够专注于算法与应用本身,而非底层硬件差异。”
核心组件,提升开发效率与模型性能
该产品组合包含多个关键组件。其中,模型优化工具支持主流的TensorFlow、PyTorch和ONNX等框架模型的导入与自动量化、压缩和剪枝,在保持精度的前提下显著降低模型体积与推理延迟。推理引擎则利用高通Hexagon处理器及Adreno GPU的硬件加速能力,实现低功耗、高吞吐的实时AI推理。AI开发套件提供了丰富的预训练模型库、示例代码及性能分析工具,帮助开发者快速构建图像识别、语音处理、自然语言理解等典型AI功能。
值得关注的是,该软件栈还内置了针对生成式AI的优化支持,包括对大语言模型和扩散模型在终端侧的高效部署能力,使得智能终端能够在本地完成文本生成、图像创作等复杂任务,兼顾隐私保护与响应速度。
支持广泛终端,推动生态协同
在终端支持方面,该AI软件栈产品组合实现了对骁龙移动平台、骁龙计算平台、骁龙数字底盘及物联网解决方案的全面覆盖。这意味着:
- 智能手机与PC:开发者可构建个性化的智能助手、实时翻译、影像增强等应用;
- 汽车:支持舱驾融合场景下的多模态感知与交互,提升驾乘安全与体验;
- 物联网与XR:为工业检测、智能家居、虚拟会议等提供低延迟的本地AI处理能力。
高通同时宣布,将与主流云服务商及AI模型社区合作,确保软件栈与云端训练环境的无缝衔接,形成“云端训练、终端推理”的完整闭环。
降低门槛,激发开发者创新
对于广大软件开发者而言,该产品组合的推出意味着更低的入局成本和更短的上市周期。独立开发者和小型团队可以借助预置的优化工具和跨平台部署能力,快速将创意转化为可运行的终端AI应用。高通还计划推出开发者认证计划与线上课程,进一步培育端侧AI开发人才。
业内分析认为,高通此次发布的AI软件栈产品组合,不仅强化了其在终端侧AI计算领域的技术护城河,更通过软件生态的整合,推动了整个智能终端产业从“硬件堆叠”向“体验驱动”的转型。随着越来越多的开发者基于该平台进行创新,智能终端的AI能力将迎来爆发式增长。
高通表示将持续更新软件栈,增加对更多模型类型和终端形态的支持,并与全球开发者社区紧密协作,共同定义端侧AI的新标准。