数码之家

 找回密码
 立即注册
搜索
查看: 959|回复: 1

[电信] 中国电信中部智算中心在武汉投运,支持部署万亿参数大模型

[复制链接]
发表于 2024-1-27 21:50:51 | 显示全部楼层 |阅读模式

爱科技、爱创意、爱折腾、爱极致,我们都是技术控

您需要 登录 才可以下载或查看,没有账号?立即注册

x
中国电信中部智算中心在武汉东湖新技术开发区(光谷)举行正式投入运营。中国电信专家介绍,该智算中心的算力、安全、环保及扩展性均达到一流水平,目前在中部地区属于最高等级。

                               
登录/注册后可看大图
IT之家注意到,中国电信中部智算中心建设先进自主液冷智算集群,首次采用基于国产 AI 基础软硬件平台的方案架构,实现算、存、网、电、热整体设计。通过独特的嵌入式液冷单元,盲插总线架构,实现液冷到芯片,液冷到服务器,液冷到机柜,全场景 PUE≤1.15,在达到业内一流绿色节能环保水平的同时,可支持部署万亿参数大模型。
中国电信在全国构建了多点智算中心,提供 5000PFLOPS 的智算算力,中部智算中心依托天翼云骁一体化算力平台,提供高性能、高显存、高兼容性的主流大模型训练、训推一体算力和国产自研架构的液冷高性能算力,可满足多场景算力需求。
中部智算中心可提供千卡规模的训练推理能力,并支持主流框架及芯片,基于训练推理的混合调度能力,资源利用率可以提升 20%。基于高性能的基础设施和一系列的优化技术,在千卡模型下并行计算效率可以达到 80%。

发表于 2024-1-27 22:31:34 | 显示全部楼层
部署万亿参数大模型
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2024-4-30 00:52 , Processed in 0.405601 second(s), 11 queries , Redis On.

Powered by Discuz!

© 2006-2023 smzj.net

快速回复 返回顶部 返回列表