來源：半導體行業(yè)觀察

在當今數(shù)字化時代，人工智能（AI）無疑是最為耀眼的技術(shù)領域之一。從早期簡單的機器學習算法，到如今復雜的深度學習和 Transformer 模型，AI 算法正以前所未有的速度快速發(fā)展。這種快速演進使得 AI 在各個領域的應用不斷拓展，從邊緣端的高能效場景，如智能安防攝像頭、智能家居設備，到云端的大算力場景，如數(shù)據(jù)中心的智能分析、智能語音交互系統(tǒng)等，AI 正逐步滲透到人們生活和工作的方方面面。

在邊緣端，設備對能耗限制嚴格，需在有限電量下完成復雜任務，像實時圖像識別、簡單語音指令處理等。而在云端，面對海量數(shù)據(jù)和復雜計算需求，如大規(guī)模圖像數(shù)據(jù)集處理、復雜自然語言處理任務等，需要強大計算能力支撐。無論哪種場景，AI 芯片都至關重要，其性能直接決定 AI 應用效果。然而，隨著 AI 算法不斷革新，傳統(tǒng)固定架構(gòu)芯片逐漸暴露出諸多局限性，難以滿足 AI 算法日益增長的多樣化需求，無法充分發(fā)揮硬件性能優(yōu)勢。

現(xiàn)代神經(jīng)網(wǎng)絡模型作為AI算法的核心，具有一系列復雜多樣的特征，這些特征對芯片的設計和性能產(chǎn)生了深遠的影響。

神經(jīng)網(wǎng)絡的拓撲結(jié)構(gòu)復雜且不斷演變。早期神經(jīng)網(wǎng)絡主要由卷積層和全連接層構(gòu)成，結(jié)構(gòu)簡單，功能單一。但隨著技術(shù)發(fā)展，為提升網(wǎng)絡性能和處理復雜任務的能力，諸如 ResNet 的殘差連接結(jié)構(gòu)、注意力機制等復雜拓撲不斷涌現(xiàn)。ResNet 的殘差連接解決了梯度消失問題，使網(wǎng)絡可構(gòu)建得更深，學習更復雜特征；注意力機制通過動態(tài)生成矩陣提取全局信息相關性，帶來不規(guī)則拓撲結(jié)構(gòu)，能更聚焦關鍵信息。例如在 2023 年特斯拉 AI Day 展示的網(wǎng)絡中，包含更多類型節(jié)點和更復雜連接，旨在模擬人類大腦神經(jīng)連接，實現(xiàn)更高級智能處理能力。不同網(wǎng)絡拓撲結(jié)構(gòu)決定數(shù)據(jù)在網(wǎng)絡中的流動和處理方式，對芯片的計算資源分配和數(shù)據(jù)傳輸路徑提出多樣化需求。

圖1. AI算法呈現(xiàn)出復雜演變的特點

神經(jīng)網(wǎng)絡模型存在多維度的稀疏性，涵蓋輸入、權(quán)重和輸出。為模擬大腦中非活躍神經(jīng)元，提高計算效率，稀疏性在神經(jīng)網(wǎng)絡研究中備受關注。實際計算中，稀疏（0 值）操作數(shù)不影響計算結(jié)果，跳過無效計算可減少整體計算量和內(nèi)存訪問需求。早期對稀疏性的研究集中在基于剪枝的一維權(quán)重稀疏性，如今已發(fā)展到利用輸入、權(quán)重和輸出的三維稀疏性。例如，在一些模型中，通過檢測輸入數(shù)據(jù)中的 0 值元素，直接跳過相關計算，避免不必要的計算資源浪費。

圖2. 神經(jīng)網(wǎng)絡模型精度不斷變化

神經(jīng)網(wǎng)絡模型在不同層對數(shù)據(jù)精度要求差異較大。推理階段，模型最初常被量化為統(tǒng)一精度，如 INT8，這種方式雖簡單，但在某些情況下無法充分發(fā)揮模型性能。后來發(fā)展為每層量化，根據(jù)不同層需求調(diào)整數(shù)據(jù)精度，提高推理效率。近期，甚至出現(xiàn)元素級混合精度應用，進一步優(yōu)化計算資源利用。訓練階段，早期常用的 FP32 和 FP16 雖能保證較高計算精度，但會帶來較高內(nèi)存和功耗開銷。為降低訓練成本，有人提出使用 FP8，但因其數(shù)據(jù)表示能力有限，會導致訓練精度損失。因此，混合精度訓練（如 FP16 和 FP8 混合）成為平衡訓練精度和能效的有效解決方案。

這些復雜的模型特征給芯片設計帶來諸多嚴峻挑戰(zhàn)。不同網(wǎng)絡拓撲結(jié)構(gòu)導致數(shù)據(jù)重用模式和數(shù)據(jù)訪問時間差異顯著。數(shù)據(jù)訪問，尤其是對 DRAM 的訪問，相較于計算會帶來顯著時間和功耗開銷。在高性能 AI 芯片設計中，減少內(nèi)存訪問成本至關重要，這就要求芯片具備靈活的數(shù)據(jù)流支持能力，以適應不同數(shù)據(jù)重用模式，降低數(shù)據(jù)訪問量。不同類型的稀疏性特點不同，增加了芯片設計難度。輸入和權(quán)重稀疏性需逐元素計算跳過，輸出稀疏性導致逐向量計算跳過。AI 芯片要充分利用這些稀疏性消除冗余計算，必須具備靈活處理不同稀疏性的能力。不同應用對數(shù)據(jù)位寬要求不同，AI 芯片需處理多種數(shù)據(jù)精度，這對處理器的計算單元提出很高要求，需要一個高效的 MAC 單元，既能滿足不同精度計算需求，又能在功耗和面積方面進行優(yōu)化。

圖3. 硬件重構(gòu)優(yōu)于軟件編程

為應對這些挑戰(zhàn)，硬件重構(gòu)成為關鍵技術(shù)，相較于軟件編程具有明顯優(yōu)勢。軟件編程在處理不同拓撲結(jié)構(gòu)時具有一定靈活性，通過插入分支指令處理不同節(jié)點，但在處理元素級稀疏性和多種精度時存在局限。軟件編程無法充分利用稀疏性優(yōu)化計算，對于不同精度計算也難以靈活切換，無法滿足 AI 芯片對靈活性的全面要求。例如，在處理大規(guī)模稀疏矩陣計算時，軟件編程可能耗費大量時間和資源處理 0 值元素，而硬件重構(gòu)能夠全面適應神經(jīng)網(wǎng)絡的各種結(jié)構(gòu)、稀疏模式和計算精度。它可根據(jù)不同神經(jīng)網(wǎng)絡模型和任務需求，在硬件層面快速調(diào)整，實現(xiàn)資源高效利用。處理稀疏性時，硬件重構(gòu)可通過專門電路設計，直接對稀疏數(shù)據(jù)進行處理，避免無效計算，提高計算效率。例如，通過設計特定的稀疏數(shù)據(jù)處理單元，可快速檢測和跳過 0 值操作數(shù)，減少計算資源浪費。應對多種數(shù)據(jù)精度時，硬件重構(gòu)能靈活切換計算單元精度模式，滿足不同層計算需求。例如，在同一芯片上，可根據(jù)不同層需求，動態(tài)調(diào)整計算單元精度，從低精度的 INT4 到高精度的 FP16，實現(xiàn)資源優(yōu)化配置。

硬件重構(gòu)主要在芯片級、處理單元陣列（PEA）級和處理單元（PE）級三個層次進行。芯片級重構(gòu)旨在處理輸入、權(quán)重和輸出的稀疏性，提高硬件利用率，可以通過 BENES 網(wǎng)絡實現(xiàn)。BENES 網(wǎng)絡由雙向開關單元組成，每個開關有旁路和交叉兩種模式。處理輸入和權(quán)重稀疏性時，根據(jù)操作數(shù)是否為零，配置 BENES 網(wǎng)絡為對稱或不對稱結(jié)構(gòu)，將非零操作數(shù)路由到 PE 進行計算，并在計算后恢復結(jié)果的稀疏位置。對于輸出稀疏性，傳統(tǒng)順序計算存在硬件利用率低和數(shù)據(jù)重復訪問問題，而亂序計算通過 BENES 網(wǎng)絡優(yōu)化計算順序，減少向量內(nèi)存訪問，提高硬件資源利用率。例如，在處理大規(guī)模稀疏矩陣乘法時，通過 BENES 網(wǎng)絡的亂序計算，可優(yōu)化原本需多次訪問內(nèi)存的數(shù)據(jù)，減少內(nèi)存訪問次數(shù)，提高計算效率。數(shù)據(jù)顯示：清微智能從邊緣端 TX5至云端TX8系列可重構(gòu)芯片 ，硬件利用率均可提升 50% 以上。

PEA 級重構(gòu)分為整體重構(gòu)和交錯重構(gòu)。整體重構(gòu)中，整個 PE 陣列以特定數(shù)據(jù)流運行，適用于不同神經(jīng)網(wǎng)絡順序執(zhí)行的場景；交錯重構(gòu)允許多個數(shù)據(jù)流在單個 PE 陣列上同時運行，適用于需同時計算多個神經(jīng)網(wǎng)絡的場景。其目的是通過改變數(shù)據(jù)流，根據(jù)不同神經(jīng)網(wǎng)絡模型的張量大小和數(shù)據(jù)重用模式，選擇固定某一張量，讓其他張量流動，從而最小化數(shù)據(jù)訪問。通過調(diào)整數(shù)據(jù)流向和計算順序，提高數(shù)據(jù)重用率，減少數(shù)據(jù)在內(nèi)存和計算單元之間的傳輸次數(shù)，進而降低功耗和提高計算效率。與 GPU 相比，GPU 硬件利用率通常僅達 50%，而可重構(gòu)芯片通過靈活的陣列級重構(gòu)，能達到 80% 以上的硬件利用率。例如，在處理多個不同類型的神經(jīng)網(wǎng)絡任務時，可重構(gòu)芯片的交錯重構(gòu)能力可同時處理不同任務的數(shù)據(jù)流，充分利用硬件資源，避免資源閑置。清微智能的 TX8 系列可重構(gòu)大算力芯片通過這種數(shù)據(jù)流計算范式使中間數(shù)據(jù)直接在計算單元之間傳遞，避免大量重復訪存，計算性能和能效水平顯著提升。

PE 級重構(gòu)的目標是支持多種數(shù)據(jù)精度，常見技術(shù)包括位串行、位融合、浮點融合和部分積重構(gòu)。位串行從最高有效位（MSB）到最低有效位（LSB）逐位計算，通過配置控制位決定計算周期，適用于超低功耗應用，但吞吐量有限。位融合由多個并行的位磚單元組成，通過空間重組實現(xiàn)靈活的位寬配置，可支持不同精度計算，能顯著提升計算速度，但帶寬利用率較低。在訓練中分離特征圖為 FP16 和 FP8 組，可提高訓練能效，但存在硬件資源浪費問題。浮點融合用于混合精度浮點訓練，通過共享乘法器、對齊器、加法器和歸一化邏輯實現(xiàn)不同精度計算，從而顯著提高硬件資源利用率。部分積重構(gòu)支持混合整數(shù)和浮點計算，通過不同的部分積計算單元配置實現(xiàn)不同精度計算，硬件利用率較高，但功耗相對較大。例如，在對功耗要求極高的邊緣設備中，位串行技術(shù)可充分發(fā)揮其超低功耗優(yōu)勢；在對計算速度要求較高的云端應用中，位融合技術(shù)可顯著提升計算速度。

圖4. 可重構(gòu)芯片可實現(xiàn)多層次硬件重構(gòu)

可重構(gòu)芯片憑借芯片級、陣列級和 PE 級三級重構(gòu)能力，在保持編程靈活性的情況下，通過對硬件資源的精細化重構(gòu)調(diào)度和高效利用，實現(xiàn)更高性能和更高能效的 AI 芯片設計。在芯片級，由于 AI 處理的數(shù)據(jù)存在稀疏性，可重構(gòu)芯片的芯片級重構(gòu)能力能跳過無效的 0 值計算，減少內(nèi)存訪問次數(shù)，提高硬件使用效率，更好發(fā)揮硬件性能并提高計算能效。在陣列級，可重構(gòu)芯片能利用其陣列級重構(gòu)能力，實現(xiàn)數(shù)據(jù)流計算范式，減少中間數(shù)據(jù)在存儲器之間的反復搬運，降低訪存能耗，解決 “存儲墻” 問題，同時提高硬件資源利用效率。在 PE 級，可重構(gòu)芯片利用其 PE 級多精度配置、定浮點融合和資源共享等重構(gòu)能力，精細控制和調(diào)度底層計算資源，顯著提高資源利用率，從而提高芯片面積利用率。

隨著 AI 技術(shù)的不斷發(fā)展，可重構(gòu)芯片的應用前景將更加廣闊。它有望為 AI 的持續(xù)創(chuàng)新提供強大硬件支持，推動人工智能技術(shù)邁向新高度。

在未來，隨著 AI 算法進一步發(fā)展和應用場景不斷拓展，可重構(gòu)芯片將在更多領域發(fā)揮重要作用。國內(nèi)規(guī)模最大的可重構(gòu)芯片廠商清微智能，目前已量產(chǎn)TX5和TX8兩大系列十余款芯片，覆蓋云邊端應用場景，廣泛應用至智能安防、智能機器人、智算中心，大模型市場，實現(xiàn)可重構(gòu)芯片從0到1的探索實踐。脫胎于斯坦福大學頂尖科研團隊的 SambaNova Systems，在2023年就成為AI 芯片估值最高的獨角獸標桿。

參考鏈接

1.Shouyi Yin. Reconfigurable Machine Learning Processor: Fundamental Concepts, Applications, and Future Trends.ASSCC 2023 Tutorial.