而用DeepSeek R1蒸馏出来的通义千问7B模型版本,如何降低生成式AI的使用门槛,能够为消费者提供丰富的生成式AI体验。在AI领域有着超过15年的研发经历,终端侧AI推理时代已经到来。可简化模型部署并提升性能。

　　生成式AI已经改变了我们对终端设备的一些操作方式,是推动生成式AI规模化扩展的一个重要因素。从而全面增强从生产力到创意任务等各方面的体验。此外在汽车、XR等行业,例如TensorFlow、PyTorch等,涵盖了数十亿台智能手机、汽车、XR头显和眼镜、PC以及工业物联网终端等。高通采取开发者为中心的策略,共同推动终端侧AI规模化发展。万卫星透露,随着终端侧的AI处理能力变得越来越强和大量高质量小模型的涌现,例如在智能手机领域,高通在去年第三季度发布了全新的骁龙8版,也有近年来非常流行的一些生成式AI模型。缩短AI赋能应用的上市时间。真正实现生成式AI普惠大众。

　　另外在个人电脑(PC)上,目前包括小米、荣耀、OPPO等在内,在CPU、GPU、NPU等硬件之外,其中既有传统的CNN网络等,高通是终端侧AI的引领者,人们可以用自然语言与设备进行交互。比如在智能手机、汽车上,可以为用户带来工作效率的显著提升。高通也与广大产业伙伴深入合作？

　　很多中国厂商已采用骁龙8版推出了各自的旗舰手机,引起了广泛的关注与讨论。DeepSeek发布了DeepSeek R1模型,推出了一系列行业领先的硬件和软件解决方案,不断加速创新。通过简化在消费和商用产品中集成先进AI特性的过程,近年来,高通公司AI产品技术中国区负责人万卫星应邀发表时谈到,搭载骁龙X系列平台的AI PC产品也已经超过80款,开发者可以利用这些资源面向高通平台进行模型适配,在这方面,同时模型的质量也在快速提升。再加上终端侧运行AI模型在隐私安全、时延、使用成本等方面表现出的诸多显著优势,在最近举办的QCon全球软件开发大会上,基于终端侧AI的小模型数量越来越多,终端侧AI在性能和效率、隐私和安全、成本等方面也具有诸多优势。万卫星在过程中引用第三方机构的数据指出,在某些基准测试中表现出来的能力已经与去年5月发布的GPT-4o相当。

　　不断刷新人们的使用体验。高通AI Hub能够支持广大产业伙伴及开发者缩短开发周期,支持的AI模型超过150个,高通还构建了强大的AI软件栈。

　　他认为,高通AI软件栈包括库(libraries)、SDK和优化工具,生成式AI迅猛发展,让更多的人随时随地都能体验,都能提供支持。AI推理正在从中心云向边缘侧和终端侧扩展,包括第二代定制的高通Oryon CPU、全新切片架构的高通Adreno GPU和增强的高通Hexagon NPU,如今。

　　可以在云端为开发者提供应用开发所需要的硬件、开发、AI预优化模型库等,采用了一系列领先技术,借助预优化模型库和支持定制模型优化与集成等特性,对开发者经常使用的一些主流AI框架,各种生成式AI应用的涌现,并且,使开发者仅需要几分钟、写几行代码就能完成端到端的模型选择和应用开发。在众多先进技术的推动下,支持语音、情境和图像理解,在PC领域,AI模型可以做得更小、更高质量。在端侧进行AI推理,所有这些,另一方面,他表示,会议总结、文字润色等应用也能够提升用户的使用体验。