隨著人工智能與大數(shù)據(jù)技術(shù)的飛速發(fā)展，我們正步入一個以大模型為核心的新時代。然而在這一浪潮中，傳統(tǒng)的馮·諾依曼架構(gòu)卻逐漸顯露出其狹隘性。
該架構(gòu)雖然奠定了現(xiàn)代計算機的基礎(chǔ)，但在面對海量數(shù)據(jù)處理與大模型訓練時，卻受限于存儲與計算分離的設(shè)計，導致數(shù)據(jù)搬運成為性能瓶頸，嚴重制約了計算效率的提升。
為了突破這一瓶頸，業(yè)界開始將目光聚焦于另一個計算架構(gòu)——存算一體，這是一種將存儲和計算功能融合在同一個芯片上的技術(shù)架構(gòu)。
事實上，存算一體的概念由來已久。早在1969年，斯坦福研究所的Kautz等人提出了存算一體計算機的概念。但受限于當時的芯片制造技術(shù)和算力需求的匱乏，那時存算一體僅僅停留在理論研究階段，并未得到實際應用。
而近年來，隨著半導體制造技術(shù)突破，以及AI等算力密集應用場景的崛起，存算一體技術(shù)也得到迅猛發(fā)展。2017年，英偉達、微軟、三星等提出存算一體原型，隨后，國內(nèi)也誕生一批存算一體芯片企業(yè)，蘋芯科技是其中之一。
8月8日，蘋芯科技正式發(fā)布了兩款新品，包括存算一體NPU“PIMCHIP-N300”和多模態(tài)智能感知芯片“PIMCHIP-S300”，后者采用的是28納米制程工藝。
蘋芯科技CEO楊越在接受21世紀經(jīng)濟報道記者采訪時指出，“存算一體就是要在成熟制程實現(xiàn)高級制程的計算能力，這讓我們不用非去卷高級制程”。
打破馮·諾依曼架構(gòu)
在存算一體技術(shù)出現(xiàn)之前，計算架構(gòu)基本都是遵循馮·諾依曼架構(gòu)，即存儲與計算單元分離。
楊越向記者表示，在馮·諾依曼架構(gòu)下，當計算發(fā)生時，數(shù)據(jù)需要在存儲和計算單元直接傳輸。而在AI算力芯片中，超過90%的功耗都消耗在傳輸上，所以原來的架構(gòu)在計算效率上很難支撐AI的發(fā)展。
此前，提高計算效率的辦法就是升級制程工藝，從最初的65納米、40納米已經(jīng)變成7納米、5納米甚至3納米。然后，這種方法后來也遭遇了瓶頸。
因此2020年前后，國內(nèi)出現(xiàn)一批公司，他們試圖從其他維度去解決計算效率提升的問題。“比如存算一體公司、量子計算公司、光子芯片公司等，這些公司希望去改變芯片的架構(gòu)來減少數(shù)據(jù)的搬移。而在不同的技術(shù)路徑中，存算一體是落地性最強的一個賽道”。楊越說。
在存算一體賽道中，不同公司也存在差異，主要是底層所采用的Memory（存儲器）類型不同。有的是用flash做，有的是用靜態(tài)隨機存儲器（SRAM）做，還有的是用新型存儲器——憶阻器來做。
楊越告訴記者，不同的Memory所具有的特性不同，有的密度高，有的耐久性更好。而蘋芯科技選擇SRAM，是因為它的產(chǎn)品化能力最強。
“在用戶最關(guān)心的幾個性能維度上，比如讀寫的延時、耐久性、Memory可擦寫的次數(shù)、高級制程兼容性等，SRAM的表現(xiàn)都是最優(yōu)的。另外，因為SRAM在計算機體系中已經(jīng)存在幾十年了，它的成本、良率都很穩(wěn)定。所以如果想要快速產(chǎn)品化，SRAM會是最優(yōu)的解決方案”。楊越表示。
另外，即便是使用同一種Memory來做的企業(yè)，面向的場景也可能不同。有些公司選擇了大算力場景，比如汽車、服務器，蘋芯科技選擇的則是小端側(cè)場景，比如智能可穿戴設(shè)備、智慧家居等。
楊越稱，選擇小端側(cè)場景，是因為算力整體并不是特別大，但是對于功耗的要求又比較敏感。“做出這一選擇，我們是從電路、系統(tǒng)架構(gòu)、應用、成本等角度進行了綜合考量，覺得小端側(cè)場景更適合快速出產(chǎn)品”。
他舉例說，“我們團隊的背景之前都是做新型存儲器的，但我們?nèi)匀徊捎肧RAM方案，核心原因就是我們認為這個方案在2-3年內(nèi)可以產(chǎn)品化，這是符合投資人商業(yè)邏輯的，也是符合產(chǎn)業(yè)商業(yè)邏輯的”。
大廠留下的機會
目前，包括英特爾、三星、IBM、AMD等在內(nèi)的傳統(tǒng)芯片廠商都在布局存算一體，蘋芯科技等初創(chuàng)公司如何應對與巨頭的競爭？
楊越表示，從行業(yè)角度，大家做的事情是趨同的，就是希望讓數(shù)據(jù)的搬運徹底消失。包括蘋芯科技在內(nèi)的一些初創(chuàng)公司，其優(yōu)勢在于選擇了存內(nèi)計算方案，這幾乎能將縮短數(shù)據(jù)距離這件事做到極致化。但大廠們不太可能去這樣做，因為他們要考慮通用性的問題，這實際上也為創(chuàng)業(yè)公司提供了機會。
據(jù)記者了解，存算一體技術(shù)可分為三類：近存計算（Processing Near Memory, PNM）、存內(nèi)處理（Processing In Memory, PIM）和存內(nèi)計算（Computing In Memory, CIM）。
其中，近存計算是利用先進的封裝技術(shù)，將計算芯片和存儲器封裝到一起，通過減少內(nèi)存和處理單元之間的路徑，提高傳輸效率；存內(nèi)處理側(cè)重于將計算過程盡可能地嵌入到存儲器內(nèi)部，減少處理器訪問存儲器的頻率；存內(nèi)計算則是將計算和存儲完全融合的技術(shù)，通過電路革新或集成額外的計算單元來實現(xiàn)。
因為存內(nèi)計算對制程工藝要求不高，所以這也是國內(nèi)創(chuàng)業(yè)公司主要選擇的技術(shù)路徑。華西證券在一份研報中指出，近存計算的代際設(shè)計成本較低，適合傳統(tǒng)架構(gòu)芯片轉(zhuǎn)入，目前該技術(shù)已經(jīng)十分成熟，被廣泛應用于各類CPU和GPU上。而存內(nèi)計算主要用于算法固定的場景算法計算。
楊越指出，目前電子產(chǎn)品正朝著小型化、智能本地化的方向發(fā)展，這給存算一體創(chuàng)業(yè)公司帶來了很大的市場機遇。
“小型化意味著電池不能做得太大，然后還要去很好地驅(qū)動AI計算，這在傳統(tǒng)架構(gòu)中很難實現(xiàn)。比如現(xiàn)在基于傳統(tǒng)架構(gòu)的一些智能設(shè)備，當它們打開AI功能時，非常容易發(fā)熱，原因在于有大量的數(shù)據(jù)搬運，而存算一體可以將產(chǎn)品體驗變得更好”。他說。
據(jù)楊越介紹，蘋芯科技的產(chǎn)品未來會有兩個迭代方向，一是在功能上，要從現(xiàn)在的卷積神經(jīng)網(wǎng)絡（CNN）迭代到Transformer模型，二是在計算效率上，會把制程工藝從現(xiàn)在的28納米，升級到22納米、14納米，最終定格在12納米。