4月18日，以“AI for All，讓世界充滿AI”為主題的聯(lián)想創(chuàng)新科技大會(huì)（2024 Lenovo Tech World）在上海舉辦。

聯(lián)想集團(tuán)副總裁、聯(lián)想中國(guó)基礎(chǔ)設(shè)施業(yè)務(wù)群總經(jīng)理陳振寬以《異構(gòu)智算 釋放AI基礎(chǔ)設(shè)施新動(dòng)能》為主題進(jìn)行了演講，分享聯(lián)想在AI基礎(chǔ)設(shè)施領(lǐng)域的戰(zhàn)略布局、核心能力與技術(shù)創(chuàng)新成果。

“在人工智能1.0時(shí)代，基于全球智慧和本地創(chuàng)新，聯(lián)想打造了全面的基礎(chǔ)設(shè)施產(chǎn)品組合，包括計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、邊緣和超融合，并在通用計(jì)算、科學(xué)計(jì)算和AI計(jì)算等不同算力領(lǐng)域獲得大量的最佳實(shí)踐，幫助千行百業(yè)的客戶取得成功。”陳振寬表示，如今大模型開啟的AI 2.0時(shí)代已經(jīng)邁著大步朝我們走來，我們需要重塑過去積累的技術(shù)，來升級(jí)聯(lián)想基礎(chǔ)設(shè)施。

聯(lián)想集團(tuán)副總裁、聯(lián)想中國(guó)基礎(chǔ)設(shè)施業(yè)務(wù)群總經(jīng)理陳振寬

為解決用戶面臨的挑戰(zhàn)，聯(lián)想AI基礎(chǔ)設(shè)施將聚焦三大領(lǐng)域?qū)崿F(xiàn)科技創(chuàng)新，即超強(qiáng)算力、核心算法和液冷創(chuàng)新，釋放AI基礎(chǔ)設(shè)施新動(dòng)能。他介紹說，基于三大領(lǐng)域，聯(lián)想已經(jīng)積累了八項(xiàng)核心能力，包括高性能、高可靠性以及液冷技術(shù)等。他重點(diǎn)分享了針對(duì)AI 2.0時(shí)代的五大創(chuàng)新技術(shù)，包括：算力匹配魔方、GPU內(nèi)核態(tài)虛擬化、聯(lián)想集合通信算法庫(kù)、AI高效斷點(diǎn)續(xù)訓(xùn)技術(shù)、AI與HPC集群超級(jí)調(diào)度器。

此外，陳振寬在大會(huì)上正式發(fā)布了聯(lián)想萬全異構(gòu)智算平臺(tái)。“聯(lián)想萬全異構(gòu)智算平臺(tái)是AI 2.0時(shí)代聯(lián)想中國(guó)基礎(chǔ)設(shè)施戰(zhàn)略框架的核心。”他說，作為聯(lián)想“全棧AI”戰(zhàn)略布局的中堅(jiān)力量，聯(lián)想中國(guó)基礎(chǔ)設(shè)施業(yè)務(wù)正以“一橫五縱”戰(zhàn)略框架，通過構(gòu)建布局完整、穩(wěn)定高效的AI導(dǎo)向的基礎(chǔ)設(shè)施，為企業(yè)智能化轉(zhuǎn)型打造堅(jiān)實(shí)可靠的智算底座。

聯(lián)想AI基礎(chǔ)設(shè)施聚焦三領(lǐng)域，應(yīng)對(duì)AI 2.0時(shí)代的算力挑戰(zhàn)

過去40年，聯(lián)想積累了包括全球供應(yīng)能力、全球研發(fā)能力以及全球生態(tài)能力的全球智慧，并引領(lǐng)了一個(gè)又一個(gè)的中國(guó)IT技術(shù)發(fā)展浪潮。在通用計(jì)算領(lǐng)域，聯(lián)想的x86服務(wù)器可靠性連續(xù)9年第一，截至2023年底已斬獲536項(xiàng)性能世界紀(jì)錄；在科學(xué)計(jì)算領(lǐng)域，聯(lián)想9次實(shí)現(xiàn)中國(guó)HPCTOP 100 NO.1，助力中國(guó)在科學(xué)計(jì)算、仿真、氣象等前沿領(lǐng)域的創(chuàng)新突破；聯(lián)想基于中國(guó)特色需求設(shè)計(jì)了完整AI基礎(chǔ)設(shè)施組合，助力中國(guó)客戶贏得AI 1.0時(shí)代的發(fā)展。

在AI 2.0時(shí)代，AI大模型具備超強(qiáng)的泛化、生成能力，促使人工智能進(jìn)入更廣的應(yīng)用場(chǎng)景和更深的業(yè)務(wù)流程中。陳振寬提到，在制造、金融、醫(yī)療、交通、能源、政府等各行業(yè)中，大模型在產(chǎn)品設(shè)計(jì)、金融評(píng)估、辦公輔助、自動(dòng)駕駛、能源調(diào)配等方方面面，顛覆式地改變生產(chǎn)方式，極速促進(jìn)生產(chǎn)效率。然而，陳振寬也認(rèn)為，隨著AI 2.0時(shí)代對(duì)于AI算力的需求快速增加，算力使用者在使用AI基礎(chǔ)設(shè)施的時(shí)候正在面臨巨大的挑戰(zhàn)。

陳振寬進(jìn)一步介紹了AI 2.0時(shí)代用戶在AI基礎(chǔ)設(shè)施領(lǐng)域面臨四大挑戰(zhàn)：

如何選擇和匹配算力是第一大挑戰(zhàn)。陳振寬指出，目前已經(jīng)有五種以上主流算法框架和十種以上算子庫(kù)來支持不同的應(yīng)用場(chǎng)景。同時(shí)，不同類型的GPU、服務(wù)器、存儲(chǔ)和網(wǎng)絡(luò)組成了上百種不同的集群配置。場(chǎng)景、算法和集群之間的選擇和驗(yàn)證，不但技術(shù)繁雜而且周期長(zhǎng)。

其次是如何減少故障中斷時(shí)間。陳振寬強(qiáng)調(diào)，目前千卡集群每月至少有15次的故障斷點(diǎn)。在常規(guī)的斷點(diǎn)續(xù)訓(xùn)手段下，每次恢復(fù)訓(xùn)練需要幾個(gè)小時(shí)，產(chǎn)生的額外費(fèi)用超過百萬元。隨著AI集群規(guī)模從千卡到萬卡，故障中斷次數(shù)及恢復(fù)所需時(shí)間呈指數(shù)級(jí)增長(zhǎng)。

第三大挑戰(zhàn)是如何改善AI算力利用率。陳振寬引用行業(yè)通用的指標(biāo)MFU（模型算力利用率）來作闡述，他指出當(dāng)前業(yè)內(nèi)MFU普遍在30%左右，頂尖的集群利用率也只能做到50%。行業(yè)需要解決GPU卡利用率，集群通訊效率，AI故障恢復(fù)，算法匹配度等系統(tǒng)性問題。

第四大挑戰(zhàn)是如何突破散熱瓶頸，降低PUE。陳振寬指出，在算力升級(jí)帶來的能耗飆升的情況下，如何通過先進(jìn)的散熱技術(shù)，突破芯片在系統(tǒng)中的散熱瓶頸，同時(shí)提升能效，降低數(shù)據(jù)中心PUE。

聯(lián)想AI基礎(chǔ)設(shè)施持續(xù)聚焦三大領(lǐng)域

為解決上述用戶面臨的挑戰(zhàn)，陳振寬強(qiáng)調(diào)，聯(lián)想AI基礎(chǔ)設(shè)施持續(xù)聚焦三大領(lǐng)域，實(shí)現(xiàn)科技創(chuàng)新。首先是超強(qiáng)算力，智能匹配：為用戶匹配經(jīng)過驗(yàn)證優(yōu)化的最佳算力；其次是核心算法，極致提效：以核心算法挖掘算力潛力，提升計(jì)算效率。第三，液冷創(chuàng)新，算力綠化：以先進(jìn)的液冷技術(shù)幫助用戶節(jié)能增效，并突破芯片散熱的瓶頸。

公布五大技術(shù)創(chuàng)新，首發(fā)萬全異構(gòu)智算平臺(tái)

“聯(lián)想在這三大領(lǐng)域里面長(zhǎng)期耕耘，積累了八項(xiàng)核心能力。”陳振寬重點(diǎn)介紹了聯(lián)想為AI 2.0時(shí)代帶來的五大技術(shù)創(chuàng)新：

第一，用戶智能匹配算力的算力匹配魔方。基于海量的硬件評(píng)測(cè)和AI算子算法集成工作，聯(lián)想構(gòu)建了AI場(chǎng)景與算法與集群硬件三者匹配關(guān)系的算力魔方知識(shí)庫(kù)，來標(biāo)識(shí)AI場(chǎng)景、算法、集群配置這三者的匹配關(guān)系。用戶只需輸入場(chǎng)景和數(shù)據(jù)，算力魔方即可自動(dòng)加載最優(yōu)算法，并調(diào)度最佳集群配置。

陳振寬介紹聯(lián)想五大技術(shù)創(chuàng)新

第二，逼近GPU算力極限的GPU內(nèi)核態(tài)虛擬化。聯(lián)想研究院開發(fā)了在GPU驅(qū)動(dòng)層的內(nèi)核態(tài)虛擬化算法，新算法可以將虛擬化造成的GPU算力損耗降到5%以下，極致情況可以降到1%以下，大幅提升GPU利用率。

第三，提升網(wǎng)絡(luò)通信效率的聯(lián)想集合通信算法庫(kù)。可實(shí)現(xiàn)對(duì)多類型網(wǎng)絡(luò)拓?fù)涞膶?shí)時(shí)感知，并以先進(jìn)算法使數(shù)據(jù)在拓?fù)渲幸宰罴崖窂竭M(jìn)行傳輸。以千卡規(guī)模集群為例，采用集成了聯(lián)想集合通信庫(kù)的聯(lián)想異構(gòu)智算平臺(tái)做管理調(diào)度，可使網(wǎng)絡(luò)通信效率提升超10%，并且集群規(guī)模越大，效果越顯著。

第四，減少AI訓(xùn)練中斷時(shí)間的AI高效斷點(diǎn)續(xù)訓(xùn)技術(shù)。聯(lián)想異構(gòu)智算平臺(tái)對(duì)大量的AI訓(xùn)練故障進(jìn)行了特征采樣，開發(fā)了預(yù)測(cè)AI訓(xùn)練故障的AI模型，實(shí)現(xiàn)“用AI來預(yù)測(cè)AI”。在斷點(diǎn)前提前優(yōu)化備份，由此能將斷點(diǎn)續(xù)訓(xùn)恢復(fù)時(shí)間縮減到分鐘級(jí)，大幅提升了訓(xùn)練效率，以千卡集群為例，每月可節(jié)約上百萬元算力費(fèi)用支出，讓寶貴的AI算力持續(xù)可用。

第五，AI與HPC集群超級(jí)調(diào)度器。這是針對(duì)混合集群做資源共享的前沿技術(shù)。聯(lián)想AI與HPC超級(jí)調(diào)度器架構(gòu)于AI和HPC調(diào)度之上，能夠切換AI和HPC的調(diào)度溝通，能全局監(jiān)控任務(wù)和動(dòng)態(tài)共享資源，使得用戶可以充分利用基礎(chǔ)設(shè)施的每一分算力。

除了公布以上五大技術(shù)創(chuàng)新，陳振寬還在大會(huì)上正式發(fā)布了“聯(lián)想萬全異構(gòu)智算平臺(tái)”。他表示，聯(lián)想萬全異構(gòu)智算平臺(tái)是AI 2.0時(shí)代聯(lián)想中國(guó)基礎(chǔ)設(shè)施戰(zhàn)略框架的核心，它融合了聯(lián)想的五大技術(shù)創(chuàng)新，是AI 2.0時(shí)代大模型訓(xùn)練和推理的基礎(chǔ)設(shè)施底座。

對(duì)于未來的研究方向，陳振寬透露，聯(lián)想將挑戰(zhàn)超過萬卡規(guī)模集群的通訊算法優(yōu)化，挑戰(zhàn)秒級(jí)的斷點(diǎn)續(xù)訓(xùn)，深入研究相變式液冷技術(shù)，布局模塊化液冷數(shù)據(jù)中心。這些技術(shù)幫助AI算力朝著更強(qiáng)大、更穩(wěn)定、更高效和更綠色的方向，高質(zhì)量發(fā)展。

“人工智能技術(shù)給我們帶來的新時(shí)代是百花齊放，百舸爭(zhēng)流的時(shí)代，也將是英雄輩出的時(shí)代。”陳振寬表示，聯(lián)想將持續(xù)投入，堅(jiān)持創(chuàng)新，持續(xù)升級(jí)萬全之力，為英雄助力，成就英雄。加速中國(guó)智能化轉(zhuǎn)型，釋放社會(huì)進(jìn)步新動(dòng)能。