燧原科技發(fā)布云燧智算機(jī),定義人工智能算力中心建設(shè)實(shí)踐
凝聚了隨緣科技兩代芯片的研發(fā)和多個(gè)大型人工智能計(jì)算中心的工程實(shí)踐,面向大規(guī)模,集約化,綠色低碳的數(shù)據(jù)中心建設(shè),云柜智能計(jì)算機(jī)正式發(fā)布。
日前,中國(guó)上?!?022世界人工智能大會(huì)物盡其用,定義ai計(jì)算中心新實(shí)踐云計(jì)算行業(yè)應(yīng)用論壇上,隨緣科技正式發(fā)布云韻智能計(jì)算機(jī)云智能計(jì)算機(jī)是針對(duì)大規(guī)模,密集型人工智能計(jì)算應(yīng)用場(chǎng)景推出的高性能人工智能加速集群產(chǎn)品通過一站式預(yù)集成人工智能加速硬件,集成開發(fā)管理平臺(tái)以及配套的人工智能應(yīng)用軟件和服務(wù),可廣泛應(yīng)用于數(shù)字政府,科研院所,科技平臺(tái)等企事業(yè)單位
基于隨園科技過去幾個(gè)大型AI計(jì)算中心的工程實(shí)踐
作為在國(guó)內(nèi)落地過千卡規(guī)模液冷AI集群的人工智能計(jì)算企業(yè),隨園科技第一,二代佳思芯片已實(shí)際應(yīng)用于大規(guī)模AI集群項(xiàng)目,支持媒體生成,城市智能感知等多元化場(chǎng)景根據(jù)以往的實(shí)踐,隨緣科技發(fā)現(xiàn),人工智能數(shù)據(jù)中心由于軟件運(yùn)維復(fù)雜,普遍存在方案選擇困難,各廠商產(chǎn)品兼容性未知等痛點(diǎn),數(shù)據(jù)中心部署交付周期長(zhǎng),溝通成本高,項(xiàng)目管理周期長(zhǎng)
開箱即用,實(shí)現(xiàn)智能計(jì)算中心的卓越總擁有成本。
云智能計(jì)算機(jī)采用一體化設(shè)計(jì),是專門為人工智能場(chǎng)景下的計(jì)算,存儲(chǔ),網(wǎng)絡(luò),軟硬件協(xié)同設(shè)計(jì)的標(biāo)準(zhǔn)化產(chǎn)品它提供了高可用的整體安全設(shè)計(jì),確保集群架構(gòu)的擴(kuò)展性能符合預(yù)期,并提供了包括采購,安裝,運(yùn)行和維護(hù)的交鑰匙方案提供數(shù)據(jù)中心環(huán)境和IT計(jì)算資源的全面監(jiān)控和管理,提升集群部署和測(cè)試的質(zhì)量和效率,協(xié)助用戶提升運(yùn)營(yíng)效率和降低運(yùn)營(yíng)成本,幫助用戶提升運(yùn)維價(jià)值,為用戶實(shí)現(xiàn)AI計(jì)算中心從交付部署到后期上線和運(yùn)維管理的卓越總擁有成本
全局優(yōu)化,提供卓越的AI性能保障
云智能計(jì)算機(jī)代表了眾多大規(guī)模工程實(shí)踐形成的計(jì)算,網(wǎng)絡(luò)和存儲(chǔ)的整體設(shè)計(jì):以全局優(yōu)化為目標(biāo),基于計(jì)算,存儲(chǔ)和管理網(wǎng)絡(luò)分離,全互聯(lián),無阻塞的網(wǎng)絡(luò)架構(gòu),結(jié)合高效的多級(jí)存儲(chǔ)模式,以強(qiáng)大的佳思芯片和CPU的異構(gòu)計(jì)算能力為支撐,云智能計(jì)算機(jī)可以提供
云智能計(jì)算機(jī)的總體設(shè)計(jì)
PUE = lt,1.1,滿足新數(shù)據(jù)中心的要求。
基于兩碳目標(biāo)和綠色環(huán)保的大趨勢(shì),無論是新數(shù)據(jù)中心的規(guī)劃建設(shè),還是由東向西計(jì)算的政策要求,都對(duì)數(shù)據(jù)中心的整體能效有明確的優(yōu)化指標(biāo)要求云智能計(jì)算機(jī)采用集成冷板液冷技術(shù),實(shí)現(xiàn)單個(gè)節(jié)點(diǎn)8個(gè)高性能人工智能芯片的液冷被冷卻物體的熱量通過液冷板等高效導(dǎo)熱元件傳遞給自然制冷劑采用先進(jìn)的流量控制系統(tǒng),大大增加流量變化范圍,降低能耗具有結(jié)構(gòu)簡(jiǎn)單,系統(tǒng)可靠,智能監(jiān)控的特點(diǎn),PUE可降至1.1以下
搭載經(jīng)過商業(yè)驗(yàn)證的AI芯片,軟硬件一起使用。
突破E級(jí)計(jì)算能力,最高可支持超級(jí)千卡集群。
依托佳思芯片的核心能力,云智能計(jì)算機(jī)在典型配置下,可實(shí)現(xiàn)TF32浮點(diǎn)運(yùn)算能力8PFLOPS臺(tái),支持按需橫向擴(kuò)展,可支持千卡集群,突破E級(jí)計(jì)算能力,打造業(yè)界領(lǐng)先的超級(jí)計(jì)算集群。
軟件協(xié)作,充分釋放集群的生產(chǎn)力價(jià)值
目前計(jì)算能力構(gòu)成復(fù)雜,多CPU架構(gòu),多異構(gòu)計(jì)算單元考慮到集群本身普遍服務(wù)于多用戶,多場(chǎng)景,如何將下層計(jì)算能力異構(gòu)性屏蔽于上層用戶,賦能用戶高效開發(fā)和部署在線AI應(yīng)用,真正釋放集群作為生產(chǎn)力工具的價(jià)值軟件是關(guān)鍵因素
貴池智能計(jì)算平臺(tái)是全棧人工智能開發(fā)服務(wù)平臺(tái),也是通用大規(guī)模計(jì)算管理平臺(tái)結(jié)合強(qiáng)大的云端AI計(jì)算集群和先進(jìn)的大規(guī)模計(jì)算資源調(diào)度,為用戶提供人工智能模型制作和應(yīng)用發(fā)布的全流程服務(wù),可一站式滿足復(fù)雜人工智能業(yè)務(wù)場(chǎng)景對(duì)人工智能服務(wù)的需求
貴池智suan平臺(tái)
支持?jǐn)?shù)千億參數(shù)的龐大模型的高效并行訓(xùn)練。
大規(guī)模訓(xùn)練大參數(shù)的龐大模型是人工智能的發(fā)展方向預(yù)訓(xùn)練大模型+微調(diào)下游任務(wù)的模型開發(fā)模式,將大大提高企業(yè)AI應(yīng)用開發(fā)的效率開發(fā)者只需要少量的行業(yè)數(shù)據(jù),就可以快速開發(fā)出準(zhǔn)確率更高,泛化能力更強(qiáng)的AI模型
訓(xùn)練一個(gè)大模型,除了算法和數(shù)據(jù),還需要超大規(guī)模的計(jì)算支持基于云智能計(jì)算機(jī)的大規(guī)模集群解決方案采用高帶寬,全互聯(lián)的拓?fù)浼軜?gòu),計(jì)算,存儲(chǔ),管理網(wǎng)絡(luò)完全分離基于GCU—拉雷2.0多核互連技術(shù)的計(jì)算節(jié)點(diǎn)內(nèi)互連帶寬接近1TB/s,跨節(jié)點(diǎn)互連能力高達(dá)600Gb/s,可實(shí)現(xiàn)千卡大規(guī)模集群的高速互連,并具有出色的線性加速比,以支持?jǐn)?shù)千億參數(shù)的龐大模型的效率和效能
隨緣科技創(chuàng)始人,首席運(yùn)營(yíng)官張亞林表示,云貴智能計(jì)算機(jī)是一款全新的系統(tǒng)集成產(chǎn)品,融合了云貴訓(xùn)練推理產(chǎn)品在行業(yè)內(nèi)的實(shí)踐經(jīng)驗(yàn),旨在全面降低AI計(jì)算中心的部署和應(yīng)用成本面向大規(guī)模,集約化,綠色低碳的數(shù)據(jù)中心建設(shè)我們始終專注于客戶的價(jià)值和體驗(yàn),致力于為客戶提供完整易用的人工智能系統(tǒng)軟硬件產(chǎn)品,同時(shí)積極響應(yīng)綠色低碳高質(zhì)量發(fā)展的國(guó)家戰(zhàn)略目標(biāo)
免責(zé)聲明:此文內(nèi)容為本網(wǎng)站轉(zhuǎn)載企業(yè)宣傳資訊,僅代表作者個(gè)人觀點(diǎn),與本網(wǎng)無關(guān)。僅供讀者參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。




