新闻中心

Meta新增两大万卡集群,投入近50000块英伟达H100 GPU

2024-03-15
浏览次数:
返回列表

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

Meta新增两大万卡集群,投入近50000块英伟达H100 GPU

meta日前推出两个功能强大的gpu集群,用于支持下一代生成式ai模型的训练,包括即将推出的llama 3。

据报道,这两个数据中心都配备了高达24,576块GPU,旨在支持比之前发布的更大、更复杂的生成式AI模型。

作为一种流行的开源算法模型,Meta的Llama能与OpenAI的GPT和Google的Gemini相媲美。

Meta刷新AI集群规模 

据极客网了解,这两个GPU集群都搭载了英伟达目前功能最强大的H100 GPU,规模比Meta之前推出的大型集群要庞大得多。此前,Meta的集群拥有大约16,000块Nvidia A100 GPU。

据报道,Meta已经采购了成千上万块英伟达最新推出的GPU。市场调研公司Omdia在最新报告中指出,Meta已经成为英伟达最重要的客户之一。

Meta工程师宣布,他们计划利用全新的GPU集群对现有的AI系统进行微调,以训练出更新更强大的AI系统,其中包括Llama 3。

该工程师指出,Llama 3的开发工作目前正在“进行中”,但并没有透露何时对外发布。

Meta的长期目标是发展通用人工智能(AGI)系统,因为AGI在创造性方面更接近人类,与现有的生成式AI模型有着明显的区别。

新的GPU集群将有助于Meta实现这些目标。此外,该公司正在改进PyTorch AI框架,使其能够支持更多的GPU。

两个GPU集群采用不同架构

值得一提的是,虽然这两个集群的GPU数量完全相同,都能以每秒400GB的端点相互连接,但它们采用了不同的架构。

Yaara Yaara

使用AI生成一流的文案广告,电子邮件,网站,列表,博客,故事和更多…

Yaara 95 查看详情 Yaara

其中,一个GPU集群可以通过融合以太网网络结构远程访问直接存储器或RDMA,该网络结构采用Arista Networks的Arista 7800与Wedge400和Minipack2 OCP机架交换机构建。另一个GPU集群使用英伟达的Quantum2 InfiniBand网络结构技术构建。

这两个集群都使用了Meta的开放式GPU硬件平台Grand Teton,该平台旨在支持大规模的AI工作负载。Grand Teton的主机到GPU带宽是其前身Zion-EX平台的四倍,计算能力、带宽以及功率是Zion-EX的两倍。

Meta表示,这两个集群采用了最新的开放式机架电源和机架基础设施,旨在为数据中心设计提供更大的灵活性。Open Rack v3允许将电源架安装在机架内部的任何地方,而不是将其固定在母线上,从而实现更灵活的配置。

Meta新增两大万卡集群,投入近50000块英伟达H100 GPU

此外,每个机架的服务器数量也是可定制的,从而在每个服务器的吞吐量容量方面实现更有效的平衡。

在存储方面, 这两个GPU集群基于YV3 Sierra Point服务器平台,采用了最先进的E1.S固态硬盘。

更多GPU正在路上

Meta工程师在文中强调,该公司致力于AI硬件堆栈的开放式创新。“当我们展望未来时,我们认识到,以前或目前有效的方法可能不足以满足未来的需求。这就是我们不断评估和改进基础设施的原因。”

Meta是最近成立的AI联盟的成员之一。该联盟旨在创建一个开放的生态系统,以提高AI开发的透明度和信任,并确保每个人都能从其创新中受益。

Meta方面还透露,将继续购买更多的Nvidia H100 GPU,计划在今年年底前拥有35万块以上的GPU。这些GPU将用于持续构建AI基础设施,意味着未来还有更多、更强大的GPU集群问世。

以上就是Meta新增两大万卡集群,投入近50000块英伟达H100 GPU的详细内容,更多请关注其它相关文章!


# meta  # 人工智能  # 该公司  # 更大  # 基础设施  # 采用了  # 新能源  # 两大  # 都能  # 这两个  # llama  # gemini  # 元氏seo优化推广  # 邵通网站seo  # 深圳网站推广sz蓝博  # 公证网站建设有哪些  # 优化外包seo  # 彩妆文案网站推广怎么做  # 石景山单位网站建设流程  # 洋河新区seo网站优化推广  # 征婚网站建设北路  # 什么网站好用知乎推广  # 可直接  # 日韩 


相关栏目: 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195


相关推荐: 市盈率百分位roe是什么意思  夸克学习都有什么课程  oracle中datediff函数怎么用 Oracle中DATEDIFF函数详解  typescript怎么使用vue  命令行如何打开文件  awk命令如何对两列加分隔符  vi命令如何退出  尼桑越野车中控前power是什么意思  j*a怎么求数组均值  j*a怎么把数组输出  位置控制单片机怎么用的  sqlite中datediff函数怎么用 SQLite中DATEDIFF()函数的用法分享  manager是什么意思  春运抢票最好抢什么票啊  如何用好typescript  nfc功能是什么意思怎么开启  萝卜快跑的收费标准是什么  cmd如何定时执行命令  哪里要用typescript  内网和外网区别 内网和外网有什么区别  单片机怎么读取电流值  win7旗舰版wifi怎么打开  如何查看硬盘是固态硬盘  j*a数组求和怎么算  夸克绑定设备是什么意思  为什么夸克网盘下载不了  夸克内测有什么好处  国标控制器单片机怎么接线  夸克网盘下载为什么要钱  市盈率300是什么意思  为什么youtube音乐打不开  ao3镜像网站哪个好  ssd固态硬盘如何安装  typescript中范围如何设定  sql isnull函数如何使用  如何寻找和修复无法在 AI 中找到文件的问题  路由器power闪红绿灯闪是什么意思  如何以管理员身份打开cmd命令行窗口  如何通过命令行启动tomcat  bored是什么意思  j*a数组怎么比较abc  如何安装笔记本固态硬盘  折叠手机屏易坏吗为什么  今天是农历多少号  如何清理固态硬盘  虽千万人吾往矣什么意思  vue组件typescript怎么用  什么软件能下载夸克视频  固态硬盘损坏如何修复  如何查看邮件域名解析 

搜索