欢迎进入ZTE开放实验室
新闻资讯

中兴通讯陈新宇:端到端开放解耦智算方案,共创AI新生态

2024-06-25

人工智能技术正以惊人的速度重塑全球产业格局,成为发展新质生产力的重要引擎。在迎接人工智能时代的挑战中,中兴通讯积极探索开放创新之路,推出端到端开放解耦智算方案,通过自主创新和开放解耦技术,解决当前AI技术生态封闭性和缺乏行业标准的问题,打通从技术到应用的全链条,激活全行业、全场景的新质生产力,为实现智能产业升级贡献中兴通讯的AI力量。

中兴通讯致力于成为端到端开放解耦智算方案提供商,与产业伙伴共同实现共赢的商业生态。在2024 MWC 上海展期间,媒体采访了中兴通讯副总裁陈新宇,就中兴通讯如何应对挑战,与合作伙伴共同推动端到端开放解耦智算方案,共创AI新生态进行了深入探讨。

中兴通讯副总裁陈新宇

记者:在中兴通讯推动的端到端解耦智算方案中,中兴通讯采取了哪些策略以实现硬件技术的突破性进展?

陈新宇:

作为全球领先的综合信息与通信技术解决方案提供商,中兴通讯可提供算力、存储、网络和数据中心等全系列产品及方案,全面满足从中心到边缘的多样化智算中心建设需求。

在算力方面,中兴通讯提供的开放智算硬件基座,能够兼容多厂家多型号的CPU和GPU,实现换芯不换座;中兴通讯与国内外AI芯片企业广泛合作,为客户提供多样化的选择,并针对战略合作的产品,做端到端的性能优化,以发挥硬件的极致性能。中兴通讯自研的定海芯片支持RDMA标卡、智能网卡、DPU卡等多种形态,为用户提供高性能、多样化的算力内核和加速硬件。

在存储方面,中兴通讯自研的分布式磁阵KS20000,采用Scale-out架构,支持多达4096个节点,提供EB级的数据管理能力,实现性能和容量线性增长,能够全面替代混合闪存和全闪存盘阵。

在网络方面,中兴通讯与产业伙伴共同建立了开放的GPU互联标准Olink(Openlink)高速总线互联标准,兼容现有RDMA协议,实现服务器内和服务器间统一互联技术。我们重点推动服务器内通信从点对点全网状互联转向交换互联的转变,从而支持单服务器更多的GPU,提升服务器单机算力密度;在服务器间通过演进大容量交换芯片能力,提供基于标准RoCE v2协议的交换机框盒互联方案,满足超大规模算力的灵活组网需求。

在数据中心方面,中兴通讯依托风液融合、弹性配电等节能技术,打造PUE低于1.1、机柜功率密度最高达60kW的新型智算中心,为大规模集群的建设提供了坚实的基础。 

记者:在人工智能领域,大模型训练是一项涉及众多技术细节且复杂的系统工程。中兴通讯在大模型训练技术方面有何独到方案与丰富经验?

陈新宇:

在中兴通讯看来,大模型训练不仅是技术挑战,更是系统工程。为此,中兴通讯推出AI Booster训推平台,以应对训练过程中的各种工程挑战,包括模型的迁移、优化、语料处理、异构计算、工具链整合以及运维等问题。中兴通讯AI Booster训推平台将工程能力和经验工具化,为客户提供可商用、可持续运维支持的AI服务,简化AI创新之路,降低大模型迁移成本。

AI Booster向下屏蔽底层GPU硬件差异,提供多样化算力的灵活调度,为模型运行提供高性能、高可靠的运行环境。AI Booster向上适配了PyTorch、TensorFlow等主流框架,支持业界主流模型,提供从数据处理、模型开发、训练、优化、评估到部署的端到端工程工具集,涵盖大型模型全生命周期管理,显著降低开发门槛。

AI Booster还提供了模型迁移工具,能够实现大模型从国际主流GPU向国产GPU无感迁移。以近期中兴通讯研发大模型的一项迁移为例,通过模型分析、算子开发和模型性能优化,能在5天内实现模型的可用,在15天内实现模型好用。

记者:在中兴通讯的人工智能战略中,如何通过合作伙伴生态的协同作用,促进大模型及应用的快速落地?

陈新宇:

大模型技术正在加速企业数字化转型进程,中兴通讯秉持“先自用、再外溢”的原则,以大模型为中心,赋能研发和运营环节,推动企业从通用向专用的数智化转型。我们首先将大模型技术应用于公司内部的研发效率提升和通信网络运维等领域,确保技术成熟可靠。基于自主研发的基座模型,我们通过专业团队对领域知识的深入理解,进一步训练出针对特定行业的大模型,从而支持了多样化的应用场景,形成了以“1(基座模型)+N(领域大模型)+X(应用场景)”为核心的大模型发展策略。

同时,中兴通讯秉承开放理念,支持模型与应用解耦,让专业的人做专业的事。我们的开放模型仓库支持多种模型入驻,并且已经完成了对多家业界主流模型的认证,为最终用户提供了选择不同模型构建场景化应用的灵活性。

在实际应用中,代码大模型已经在公司研发发挥重要作用,编码效率提升30%;通信大模型结合数字孪生和大小模型协同,在网络保障、跨域问题闭环、问题感知处理、加密短视频感知评估、智能反诈等领域已经落地实践。

中兴通讯将继续与合作伙伴携手,通过大模型技术的创新和应用,为企业数字化转型提供强有力的支持,共同推动社会的数智化进步。

关注我们follow us