生成式AI搜索成本比传统高10倍,混合AI是未来

5天突破百万用户，2个月突破1亿用户，频频打破史上增速最快消费级应用，这便是ChatGPT。ChatGPT在去年11月以AI聊天机器人的形式登场，但与过去所有的聊天机器人不同，似乎像个全能战士，可以聊天、写文章、写代码、修改 bug……ChatGPT被视为生成式AI里程碑，并以前所未有的速度和广度，展现出其巨大的发展潜力。

然而随着生成式AI模型参数规模的急剧扩张，对算力提出了巨大的挑战，以及带来的成本问题，无疑会影响生成式AI的普及。研究数据指出，每个生成式AI网络搜索查询的成本比传统搜索高10倍，如果每天进行超过100亿次查询，每年的额外成本可能达数十亿美元。 对此，在9月5日的服贸会上，高通给出的答案是混合AI。在高通发布的《混合AI是AI的未来》白皮书中，混合AI将支持生成式AI开发者和提供商利用边缘终端的计算能力降低成本。不仅如此，混合AI架构或终端侧AI还能够在全球范围带来高性能、个性化、隐私和安全等优势。

目前生成式AI主要采用云端部署运行，而混合AI指终端和云端协同工作，在适当的场景和时间下分配AI计算的工作负载，以提供更好的体验，并高效利用资源，这其中5G承担着连接云端算力和终端应用的关键桥梁。在5G的加持下，混合AI架构使AI在云端、边缘云和终端侧协同运行，使整个系统中的计算和处理能力能够以最有效的方式重新分布，实现更强大、更便利、更高效、更优化的AI。

高通是全球领先的无线科技创新者，在5G等连接技术，以及AI、影像、图形等技术领域拥有长期积累，已打造出“统一的技术路线图”，将先进的连接、低功耗高性能计算和终端侧AI等技术从手机高效扩展至不同行业中的下一代智能终端，包括汽车、VR头显、物联网设备等。

今年的服贸会上，高通在展位上呈现了全球首个可以完全运行在Android/ target=_blank class=infotextkey>安卓智能手机上的生成式AI大模型终端侧演示，它能迅速理解用户用自然语言描述的需求，凭借其掌握的超过10亿与图像相关的参数，执行多达20步推理，创作出用户想要的图像。值得注意的是，这些任务全部在手机端完成，全程无需联网、无需访问云端，且用时不超过15秒——这是迄今为止在智能手机上实现的最快的推理速度。

目前，在全世界范围内，搭载了骁龙和高通平台的智能终端数量已达到数十亿台。可以预见，5G连接所具有的高速率、低时延等优势，将会让混合AI架构更好地统筹运用云端、边缘云和终端侧的AI算力，从而让更多消费者和行业用户享受到生成式AI带来的全新体验。

高通公司全球副总裁侯明娟在服贸会成果发布活动上表示，随着生成式AI带来空前的创新和发展机遇，AI正以惊人的发展速度和强大的创新潜能，快速走进人们工作生活的方方面面，其变革千行百业的趋势日益明显。终端侧AI是实现混合式AI架构、扩展生成式AI至全球更广范围的关键，期待日后能够与更多合作伙伴成就全新的、更加丰富的商业模式和创新应用，进而惠及更多的行业和消费者，带来更加便利和愉悦的数字化生活。