熱鬧的AI芯片賽道又迎來新的挑戰(zhàn)者。
zui近,燧原科技發(fā)布了面向云端數(shù)據(jù)中心的AI訓練芯片“邃思”及加速卡“云燧T10”。
“AI領域和傳統(tǒng)的CPU不同,CPU、GPU已有五六十年的歷史,比較多技術授權;芯片、軟件、用戶整個生態(tài)耦合非常緊。而AI的算法、模型都在持續(xù)更新迭代,不怎么成熟的市場和生態(tài)。”在接受專訪時,燧原科技創(chuàng)始人、CEO趙立東這樣解釋進軍云端訓練市場的原因。
燧原科技是騰訊投資的國內AI芯片初創(chuàng)企業(yè)。2018年8月,燧原科技由騰訊領投獲得Pre-A輪融資3.4億元人民幣;本年度6月,該公司獲得新一波融資3億元人民幣,由紅點創(chuàng)投中國基金領投,騰訊繼續(xù)跟投。
入局者的戰(zhàn)場
隨著AI的可持續(xù)發(fā)展,計算硬件和內存都將到達臨界點,CPU、GPU等通用芯片已經不能滿足AI時代的需求。
云燧T10的單卡單精度(FP32)算力達到20TFLOPS,支持單精度FP32和半精度BF16的混合精度計算。按照英偉達官網(wǎng)顯示,PCIe版本Tesla V100在FP32精度下算力為14 TFLOPS,升級版V100S算力為16.4TFLOPS。
據(jù)悉,“邃思”由格芯的12nm FinFET工藝打造,總計141億個晶體管,采用先進的2.5D封裝。當前支持主流的TensorFlow架構,下一步也將支持PyTorch、MXNet、ONNX。
趙立東認為,國外企業(yè)在中國的技術指導不夠以支撐國內AI的需求和發(fā)展。這既是制約中國AI行業(yè)發(fā)展的痛點,亦是市場機會。另外,當前國內對AI及其芯片產業(yè)也強力支持。
本年度8月,賽迪顧問發(fā)布的《中國AI芯片行業(yè)發(fā)展白皮書》顯示,受益于宏觀營商環(huán)境、技術進步與升級、AI應用普及等多數(shù)利好因素,中國AI芯片市場可持續(xù)發(fā)展與成熟。2018年中國AI芯片市場依然保持增長,總體市場規(guī)模達到80.8億元,同比增長50.2%。
在我國加速推動公有云、私有云、數(shù)據(jù)中心等建設的拉動下,2018年中國云端訓練芯片市場份額達到51.3%。中國AI芯片市場規(guī)模依然以云端訓練芯片為主。
按使用場景劃分,AI芯片主要分為云端和需求端芯片。而當前主流的神經網(wǎng)絡深度學習包括訓練和推斷兩個部分。由于訓練側需要大量數(shù)據(jù)去訓練人工神經網(wǎng)絡,因而訓練主要在云端進行。
云端追求高性能,開發(fā)成本更大,需求端更側重低成本和低功耗。當前中國AI初創(chuàng)企業(yè)主要布局在需求端和邊緣側,至今發(fā)布云端AI芯片的初創(chuàng)企業(yè)主要包括AI獨角獸寒武紀和“四小龍”之一的依圖科技。
據(jù)介紹,燧原科技有三大目標市場,一是云服務供貨商,包括公有云、私有云、混合云等,此類企業(yè)有很多的流量和數(shù)據(jù),需要訓練算法加速AI相關應用;二是專注于金融、保險、交通等領域的行業(yè)服務商;三是AI超算中心和智慧城市等領域。
趙立東透露,當前該公司也在云端推理上布局,后續(xù)也將推出產品。
AI生態(tài)之爭
在AI市場上,拼的是生態(tài),企業(yè)僅僅提供芯片和硬件產品不夠以招攬用戶。
依靠先發(fā)優(yōu)勢和持續(xù)高額的研發(fā)投入,英偉達的CUDA已成為特強的生態(tài)系統(tǒng)和行業(yè)標準,成為其競爭壁壘。
其他芯片巨頭也持續(xù)完善其生態(tài)系統(tǒng),包括軟件和開發(fā)者環(huán)境。比如,為了調優(yōu)跨不同計算架構的使用程序開發(fā)工作,英特爾推出了oneAPI項目;賽靈思zui近也發(fā)布了新Vitis統(tǒng)一軟件平臺。
趙立東告訴記者,“我們之因而選擇AI訓練這種很高端的芯片是因為AI領域和傳統(tǒng)的CPU、GPU不同,CPU、GPU已有五六十年的歷史,比較多技術授權。在歷經產業(yè)及上下游形成的過程中,芯片、軟件、用戶整個產業(yè)生態(tài)歷經數(shù)十年耦合非常緊。”
而AI的算法、模型都在持續(xù)更新迭代中,沒有CPU、GPU那么成熟的市場和生態(tài)。趙立東認為這是完全開放的市場,“AI深度學習真正起飛也就是7年前的事情,業(yè)內還剛開始。不論是用戶還是供應商,都還需要時間持續(xù)磨合。大家的起跑線沒有差太遠,這是我們的一個機會。”
對于AI芯片來講,除了硬件本身,算法和軟件變得更加劇要,也出現(xiàn)了“軟件定義芯片”、“算法即芯片”等論調。
趙立東指出,硬件如同車的引擎,有一定的“馬力”,但是怎么在不一樣的使用場景都能充分發(fā)揮“馬力”需要靠軟件、編譯器、軟件棧。“整個軟件棧非常重要,未來我們軟件人員會超過硬件人員。”
燧原科技當天也發(fā)布了計算及編程平臺“馭算”,支持主流深度學習框架,提供完整的編譯、調試、調優(yōu)工具鏈,并在硬件層開放SDK,為深度開發(fā)者提供細粒度算力編程接口。針對復雜模型集群訓練,如BERT等,提供分布式調度系統(tǒng)。
此前,英特爾AI事業(yè)部副總裁兼AI平臺和市場研究總經理辛周妍(Julie Shin Choi)也告訴記者,該公司將越來越重視軟件,“英偉達的黃仁勛談到他們公司50%的人都在做軟件,英特爾也一樣,我們非常重視。”
以上是最新芯片價格資訊,更多芯片價格信息查詢,或想隨時把握最新芯片價格走勢,芯片產業(yè)動態(tài),請持續(xù)關注天賜網(wǎng)行情中心。
