商用电脑 频道

DeepSeek极限吞吐超8000 tokens/s,异构智算产业生态联盟庆阳见证新突破

  3月26日,“异构智算,纵横未来”——异构智算产业生态联盟携手生态合作伙伴、客户、媒体走进燧弘华创庆阳绿色智算中心,共同见证了DeepSeek大模型落地新突破,并围绕异构智算、DeepSeek大模型落地数据中心、超智融合等话题进行分享交流,共同探讨了异构智算与AI大模型的深度融合。全国政协委员,中科院计算所研究员张云泉,燧弘华创执行总裁唐锋,联想中国基础设施业务群战略总监黄山,英特尔高性能计算行业总监张东升,联想中国基础设施业务群高级产品经理郭晋兵等嘉宾出席了此次活动,并与参会来宾进行了深入探讨。

  燧弘华创庆阳绿色智算中心携同联想万全异构智算平台突破算力瓶颈,通过访存优化、显存优化、PCIe 5.0全互联架构创新以及精选SGLang框架中性能最优算子等诸多领先创新方式,将单机服务器运行大模型的性能再创新高,3000并发下总吞吐量超8000 tokens/s,持续提升DeepSeek满血版用户体验。这一里程碑式突破充分展现了联想在AI基础设施领域技术的深厚积淀与研发的快速响应能力,为行业树立了全新标杆。

  联想携手燧弘华创,打造绿色的“中国算谷”

  随着DeepSeek在全球爆火出圈,大模型在国内掀起“AI热”。全国政协委员,中科院计算所研究员张云泉表示,“DeepSeek的诞生标志着在AI领域出现了新的技术突破,尤其是在低算力训练和高效率模型优化方面,这将推动AI技术向更高效和普惠的方向发展。”他认为这一突破,促使全球市场重新评估大模型发展的成本曲线,推动国内芯片、云计算等基础设施加速升级。

全国政协委员,中科院计算所研究员张云泉

  DeepSeek掀起的AI应用革命与算力瓶颈突破,也让作为“中国算谷”的庆阳,受到了前所未有的关注。如今,庆阳正以坚实的算力产业为数字经济发展筑牢“智算”底座。其中,燧弘华创打造的庆阳绿色智算中心,是众多数据中心中靓丽的一道风景线。

  作为首家入驻庆阳的数据中心企业,燧弘华创不仅承载起西部算力资源优化配置的重任,更助力庆阳实现算力规模与产业生态的持续跃升。会上,燧弘华创执行总裁唐锋表示:“自2023年起,燧弘华创深耕甘肃,助力庆阳从‘东数西算’枢纽末位跃升至全国第 一方阵。我们始终围绕‘东数西算’战略,聚焦人工智能与算力产业,秉持‘扎根国家枢纽、一张蓝图绘到底’的发展理念,在庆阳打造绿色低碳算力基础设施,构建高效能、可持续的绿色算力大底座。”

燧弘华创执行总裁唐锋

  活动当天,嘉宾们实地参观了燧弘华创庆阳绿色智算中心,深入了解智算中心兼具开源开放、集约高效、绿色普惠的技术优势与卓越性能。

  联想问天 WA5480 G3服务器搭载了第四代英特尔®至强®可扩展处理器,其拥有强大的计算能力,内置了众多加速器,是智算中心建设的首选。

  同时,联想搭建了万全异构智算平台,为智算中心输出融合、稳定和高效的算力,加速各行业实现数字化、智能化转型升级。

  依托燧弘华创在技术研发领域的深耕细作与联想的协同创新,当前,燧弘华创庆阳智算中心已成功构建超2万P的高性能算力供给规模,为庆阳打造“东数西算”模范节点注入了强劲动力,加速推动了智算中心产业在AI时代的创新发展步伐。

  一横五纵筑牢算力底座,软硬件协同调优提升DeepSeek推理效率

  AI大模型的热潮催生了广泛的AI算力需求,而算力的建设需政府引领与龙头企业协同推进。联想中国基础设施业务群战略总监黄山在研讨会上围绕AI创新趋势和联想在AI方面的战略布局展开分享。

联想中国基础设施业务群战略总监黄山

  他介绍到,联想作为领先的AI基础设施提供商,凭借联想万全异构智算平台应对智算挑战,以领先的液冷技术持续解决能效和能耗难题,为千行万业输送真正 “好用” 的算力,从而有力推动智能化转型和产业升级。目前,联想正全力推进“一横五纵”战略布局,全面推出覆盖万全异构智算平台,以及涵盖服务器、存储、数据网络、软件及超融合、支持运维服务等在内的全方位基础设施解决方案。

  黄山在现场详细介绍了联想万全异构智算平台。作为联想AI基础设施“一横五纵”战略中的核心,这一平台能够统一纳管异构算力,实现对异构计算集群的高效管理调度和可用性保障,让客户轻松获取融合、稳定的通用、智能和科学算力。凭借联想万全异构智算平台调优,联想AI服务器可以全速运转满血版DeepSeek R1大模型,极限吞吐量可超8000 tokens/s。

  2025年,联想与燧弘华创共同携手推动在庆阳绿色智算中心突破性部署多元异构算力调度平台,标志着异构算力在超大规模智算场景中完成从技术攻坚到产业化应用的历史性跨越。这一战略级算力基础设施的落地,将为千行百业构建强力的创新引擎,加速各行各业的智能化转型与数字化升级。

  会上,联想中国基础设施业务群高级产品经理郭晋兵现场演示了联想万全异构智算平台如何加速DeepSeek大模型落地。联想及其生态伙伴在庆阳搭建的联想万全异构智算平台,在管理142节点千卡进行DeepSeek后训练时,以调优技术使得训练MFU高达60%以上,在训练期间人为加入多类故障后进行故障断点续训的时间小于1分钟。郭晋兵同时展示了通过联想万全异构智算平台的内核态虚拟化技术,以单GPU卡运行100个模型任务的实例。此外,郭晋兵在现场演示了DeepSeek 671B FP8单机8卡性能,极限总吞吐高达8000+ tokens/s!通过现场演示,联想万全异构智算平台已验证其在推理加速、训练优化、断点续训、内核级虚拟化等大模型推理优化场景具有明显优势。

联想中国基础设施业务群高级产品经理郭晋兵

  此次庆阳项目中交付的联想问天 WA5480 G3服务器采用2颗第四代英特尔®至强®可扩展处理器,可助力众多内置加速性能更进一步,加速应用优化力导行业创新,在绿色数据中心建设和“东数西算”战略中加速可持续强大算网布局。英特尔高性能计算行业总监张东升表示:“超智融合技术作为近年来全球计算领域热点话题,其核心思想是将超算与智算的能力相结合,以满足在人工智能高速发展背景下的各行业多元算力需求。”

英特尔高性能计算行业总监张东升

  算力是驱动社会经济数字化转型的新引擎。未来,联想将坚持围绕“一横五纵”战略布局,持续深化与产业伙伴的技术协作,围绕AI基础设施全力构建联想万全生态,为“东数西算”工程落地和全国一体化算力网构建提供强大支持,助力新质生产力的形成和经济的高质量发展。

0