久久99国产亚洲高清观看首页 ,亚洲国产激情一区二区三区,欧洲精品免费一区二区三区,国产10000部拍拍拍免费视频

世界速看:初創(chuàng)公司使用 22,000 個(gè) Nvidia H100 計(jì)算 GPU 構(gòu)建超級(jí)計(jì)算機(jī)

來(lái)源:互聯(lián)網(wǎng)     時(shí)間:2023-07-06 15:19:55


(資料圖片)

Inflection AI 是一家新初創(chuàng)公司,由 Deep Mind 前任負(fù)責(zé)人創(chuàng)立,并得到了微軟和英偉達(dá)的支持,上周該公司以現(xiàn)金和云信貸的方式從行業(yè)重量級(jí)人物手中籌集了 13 億美元。該公司似乎將利用這筆資金構(gòu)建一個(gè)由多達(dá) 22,000 個(gè) Nvidia H100 計(jì)算 GPU 提供支持的超級(jí)計(jì)算機(jī)集群,該集群的峰值理論計(jì)算能力性能可與Frontier 超級(jí)計(jì)算機(jī)相媲美。據(jù)路透社

報(bào)道,DeepMind 創(chuàng)始人兼 Inflection AI 聯(lián)合創(chuàng)始人 Mustafa Suleyman 表示:“我們將建立一個(gè)由約 22,000 個(gè) H100 組成的集群。 ” “這大約是用于訓(xùn)練所有 GPT-4 的計(jì)算量的三倍。速度和規(guī)模才是真正使我們能夠構(gòu)建差異化產(chǎn)品的因素。

由 22,000 個(gè) Nvidia H100 計(jì)算 GPU 提供支持的集群理論上能夠?qū)崿F(xiàn) 1.474 exaflops 的 FP 性能——這是使用 Tensor 核心的結(jié)果。對(duì)于在 CUDA 內(nèi)核上運(yùn)行的通用 FP 代碼,峰值吞吐量?jī)H為一半:0.737 FP exaflops。與此同時(shí),世界上最快的超級(jí)計(jì)算機(jī) Frontier的峰值計(jì)算性能為 1.813 FP exaflops(矩陣運(yùn)算的兩倍,達(dá)到 3.626 exaflops)。這使得計(jì)劃中的新計(jì)算機(jī)目前排名第二,但在El Capitan和Aurora全面上線(xiàn)后可能會(huì)跌至第四。

雖然 FP 性能對(duì)于許多科學(xué)工作負(fù)載很重要,但該系統(tǒng)對(duì)于面向 AI 的任務(wù)可能會(huì)更快。FP16/BF16 峰值吞吐量為 43.5 exaflops,而 FP8 吞吐量則翻倍至 87.1 exaflops。Frontier 超級(jí)計(jì)算機(jī)由 37,888 AMD Instinct MI250X 提供支持,其 BF16/FP16 峰值吞吐量為 14.5 exaflops。

該集群的成本尚不清楚,但請(qǐng)記住,Nvidia 的 H100 計(jì)算 GPU 零售價(jià)每臺(tái)超過(guò) 30,000 美元,我們預(yù)計(jì)該集群的 GPU 成本將達(dá)到數(shù)億美元。加上所有機(jī)架服務(wù)器和其他硬件,這將占 13 億美元資金的大部分。

Inflection AI 成立大約一年后,目前估值約為 40 億美元。它目前唯一的產(chǎn)品是一個(gè)名為 Pi 的新一代人工智能聊天機(jī)器人,Pi 是個(gè)人智能的縮寫(xiě)。Pi 旨在作為人工智能驅(qū)動(dòng)的個(gè)人助理,采用類(lèi)似于 ChatGPT 的生成式人工智能技術(shù),支持規(guī)劃、調(diào)度和信息收集。這使得 Pi 能夠通過(guò)對(duì)話(huà)與用戶(hù)進(jìn)行交流,使人們可以提出疑問(wèn)并提供反饋。除此之外,Inflection AI 還概述了 Pi 的具體用戶(hù)體驗(yàn)?zāi)繕?biāo),例如提供情感支持。

目前,Inflection AI 在 Microsoft Azure 云中運(yùn)行基于 3,584 個(gè) Nvidia H100 計(jì)算 GPU 的集群。擬議的超級(jí)計(jì)算集群的性能大約是當(dāng)前基于云的解決方案的六倍。

標(biāo)簽:

精彩放送
房產(chǎn)
頭條