高通公司首席财务官Akash Palkhiwala署名文章
我们正在进入生成式AI时代。生成式AI将利用神经网络赋能全新体验和应用场景,这是一个巨大飞跃,但仅依靠云端是无法高效实现的。生成式AI将通过打造全新品类的高性能、高能效AI PC变革PC行业,用户的终端设备将成为真正的智能助手,以更直观、更无缝的方式融入用户的生活。在PC行业中未来蓬勃发展的企业,将是那些期待AI能够实现集成化、个性化体验的世界级企业。
当前,关于生成式AI的热门讨论聚焦在利用云端来运行、训练、推理模型。但并非所有工作都需要去云端。生成式AI赋能的体验正在以前所未有的速度普及,从而催生了海量的计算处理需求。正因如此,采用兼具云端和终端最佳优势的解决方案至关重要。这就是混合AI,即将负载在云端和边缘终端之间进行分布并协同工作,从而提供更强大、更高效且高度优化的体验。
在终端上广泛且持续地运行AI的应用程序,正在了解用户,并预测和响应用户的需求,其提供的即时性和可靠性,不会因容量限制而导致延迟。这一过程是利用终端侧可用的情境和内容,来实现个性化交互、提示和响应。同时,由于查询(query)无需离开终端设备,所以有助于保护个人信息并增强隐私性。
有了终端侧AI,用户可以便捷地与AI助手进行自然流畅的对话。用户不需要通过开始按钮从一个应用程序跳转到另一个应用程序,而是直接利用AI助手更高效地与终端进行交互。例如,如果想要预订机票,用户直接向AI助手询问相关信息即可。更重要的是,如果AI助手观察到用户预订了机票,它甚至可在用户询问之前就提供酒店信息。
在终端上高效运行AI模型需要异构计算。除CPU和GPU外,NPU现在是终端侧AI和衡量PC性能的第三个关键处理核心。终端侧AI引擎从CPU和GPU分流部分任务,以提高性能和电池续航。这使得在超便携设备中,以极低功耗持续运行高负载AI应用的处理需求得以满足。
机遇是空前的。实际上,94%的企业领导者表示,AI对未来五年的成功至关重要[i]。IT决策者认为,AI是影响购买决策的最大因素[ii]。最新研究表明,近一半的IT决策者有意愿基于AI性能更换PC品牌[iii]。
PC正处于激动人心的变革风口。我们已然深刻认识到在软硬件中集成AI的重要性,这将开启机遇、开拓创新。用户与AI PC交互的新时代已经悄然而至。
[i] 德勤《企业AI应用现状报告》,第5版,2022年10月
[ii] IDC《2023年美国商用个人计算设备调查》,2023年8月
[iii] IDC《2023年美国商用个人计算设备调查》,2023年8月