中科驭数分享DPU在AI大模型时代下面临的机遇

“云擎未来，智信天下”——2023移动云大会正式举办，中科驭数正式加入“移动云信息技术融合应用创新产业生态联合体”，创始人、CEO鄢贵海应邀在“磐石算力底座”论坛圆桌对话发言，分享DPU在AI大模型时代下面临的机遇。 中国移动副总经理赵大春在“磐石算力底座论坛”致辞中表示，算力作为云的基石，既是数字经济发展的重要基础，也是科技竞争的新焦点。在技术和行业的双重驱动下，未来的算力发展将呈现出三个方面的特点，使得算力将变成像水、电一样随取随用的社会级服务。一是算力多样化需求呈指数级增长。二是算力泛在化和融合化服务需求日益增强。三是算网内生安全体系亟需构建。

■DPU将成为支撑高性能计算和人工智能的基石

本论坛圆桌对话讨论了AI大模型时代下高性能计算和存储系统所面临的挑战和机遇。中科驭数创始人、CEO鄢贵海提出ChatGPT将为底层芯片或算力基础设施的厂商带来巨大机会，并且预计DPU将成为支持高性能计算和人工智能的基石。DPU拥有低时延、高吞吐、以及强大的网络功能，这将促进下一代高性能计算实现规模化和分布式化，有望成为未来大型算力基础设施的核心组件。 从系统的角度看，如何解决ChatGPT应用带来的大算力问题，可以分为两个层次。首先，需要提高单颗芯片的性能，这方面业界已经提出了各种方法论。其次，需要打通各种基础设施，将局部算力连成网，解决网络端产生的各种瓶颈，以满足未来万亿级参数大模型的算力要求。这是当前的难点，也是DPU备受关注的原因。 作为数据专用处理器，DPU主要承担网络、存储、计算和安全等基础设施层应用服务，是提升算力服务、提高计算、网络和存储服务的关键。这使得DPU在大型语言模型中扮演着重要角色，特别是在数据交换和通信方面。

鄢贵海表示，无论是CPU、GPU还是DPU，都需要基于上层应用需求来实现芯片结构，这样底层基础设施层资源才能够更高效地释放。在这种情况下，中国移动是一个非常好的集成平台，拥有庞大的用户数量、先进的应用和丰富的场景，不同厂商可以通过中国移动这一平台将原本不同的技术打磨到一个体系中，共同打造自主可控的算力基础设施。 中国移动云能力中心刘军卫也在论坛主题演讲中分享到，中国移动将助力打造国家级自主可控的高性能算力基础设施，通过布局国产化智算生态、共建自主GPU+DPU产业联盟、联创高性能网络技术三大举措，带动国产化智算产业成熟发展，抓住云计算技术定义权，引领云计算市场下一个黄金十年。到2024年，打通DPU、GPU、HPN三大单元，面向大模型场景打造一套全栈自主可控的系统。

■中科驭数正式加入“移动云信息技术融合应用创新产业生态联合体”

大会期间，由工信部推动的“移动云信息技术融合应用创新产业生态联合体”（简称“联合体”）正式发布，旨在携手移动产业链上下游企业、高校、科研院所等相关创新单位，积极开展适配验证，标准研究、技术培训、解决方案孵化、创新成果推广和人才教育培训等关键合作。

中科驭数作为国内DPU领军企业，正式加入“移动云信息技术融合应用创新产业生态联合体”，将与各成员单位凝聚合力，推动信息技术应用创新解决方案和产业项目落地，共同构建开放包容、合作共赢的产业生态。

编辑：黄飞