数码之家

 找回密码
 立即注册
搜索
查看: 87|回复: 0

[电子] Cerebras 推出全新晶圆级芯片 WSE-3:台积电 5nm 制程,性能翻倍

[复制链接]
发表于 2024-3-14 21:59:38 | 显示全部楼层 |阅读模式

爱科技、爱创意、爱折腾、爱极致,我们都是技术控

您需要 登录 才可以下载或查看,没有账号?立即注册

x
晶圆级芯片创新企业 Cerebras 推出了其第三代芯片 WSE-3,宣称以相同功耗相较上代产品 WSE-2 性能翻倍。
IT之家整理 WSE-3 参数如下:
  • 台积电 5nm 制程;
  • 4 万亿个晶体管;
  • 900000 个 AI 核心;
  • 44GB 片上 SRAM 缓存;
  • 可选 1.5TB / 12TB / 1.2PB 三种片外内存容量;
  • 125 PFLOPS 的峰值 AI 算力。

                               
登录/注册后可看大图
Cerebras 宣称基于 WSE-3 的 CS-3 系统凭借其至高 1.2PB 的内存容量,可训练比 GPT-4 和 Gemini 大 10 倍的下一代前沿模型。其可在单个逻辑内存空间中容纳 24000T 参数规模的模型,大大简化了开发人员的工作。
CS-3 适合超大规模 AI 需求,紧凑的四系统集群可以在一天内微调 70B 模型,而在使用最大规模的 2048 个 CS-3 系统集群时,可以在一天内完成 Llama 70B 模型的训练。
Cerebras 表示 CS-3 系统具有卓越的易用性,大模型训练中所需代码相较 GPU 减少 97%,仅需 565 行代码就可达成 GPT-3 大小模型的标准实现。
阿联酋 G42 财团已表示将打造基于 Cerebras CS-3 的 Condor Galaxy 3 超算,包含 64 个系统,可提供 8 exaFLOP 的 AI 算力。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2024-4-28 07:32 , Processed in 0.109200 second(s), 10 queries , Redis On.

Powered by Discuz!

© 2006-2023 smzj.net

快速回复 返回顶部 返回列表