從理論上講，異構(gòu)多核設(shè)備可以配備針對給定用例可以拋出的任何類型的操作而優(yōu)化的計(jì)算塊。用于視頻處理的 GPU、用于對象識別的神經(jīng)網(wǎng)絡(luò)處理器、運(yùn)行操作系統(tǒng)的 CPU 等。與同一級別的同類處理器相比，不同的適合用途的內(nèi)核為 SoC 提供了更大的靈活性，因此在更廣泛的工作負(fù)載范圍內(nèi)具有更高的性能和更低的功耗。

但是，當(dāng)您開始考慮基于邊緣的AI，計(jì)算機(jī)視覺等應(yīng)用程序的要求時(shí)，事實(shí)是I / O和內(nèi)存變得與原始處理性能一樣嚴(yán)格，如果不是更多的話。

“內(nèi)存速度只會上升得這么快，對吧？”，英偉達(dá)副總裁兼嵌入式與邊緣計(jì)算總經(jīng)理Deepu Talla說?！八鼪]有呈指數(shù)級增長。由于大小的原因，位寬大致相同：它是16位，32位，64位，128位，等等。大多數(shù)嵌入式處理器通常具有32位甚至16位接口，這也是由于成本和尺寸的原因。

“記憶的速度每一代只增長2倍，這通常每三年發(fā)生一次，”他繼續(xù)說道。“但是，SoC中的計(jì)算要求可能增加了10倍或20倍。

您如何協(xié)調(diào)計(jì)算性能的不成比例的提高與內(nèi)存技術(shù)相對較小的進(jìn)步？特別是隨著處理器演變成獨(dú)特的邏輯集合，這些邏輯集合都需要自己訪問內(nèi)存等資源。

根據(jù)塔拉的說法，你把它給他們。以下是嵌入式存儲器架構(gòu)為滿足下一代異構(gòu)多核處理器的需求而不斷發(fā)展的三種方式。

#1.特定于內(nèi)核的靜態(tài)存儲器

“如果你看看很多這樣的嵌入式處理器，它們過去一直都有SRAM，”Talla說。“現(xiàn)在，對于每個(gè)特定的單元，我們有本地SRAM，它從DRAM獲取數(shù)據(jù)，將其存儲在本地并進(jìn)行處理，然后發(fā)回最終輸出。

特定于內(nèi)核的SRAM具有一些優(yōu)勢，首先是無需將臨時(shí)數(shù)據(jù)寫回片外DRAM所帶來的內(nèi)存性能提升。

這種架構(gòu)還具有降低功耗的額外好處，因?yàn)闃O低電壓的SRAM模塊位于SoC中相應(yīng)的邏輯IP附近或附近。

“如果你去DRAM，那可能是一個(gè)數(shù)量級的功率，所以你實(shí)際上通過使用這些技術(shù)來節(jié)省功率，”Talla解釋說。

#2.增加系統(tǒng)內(nèi)存

如今，嵌入式處理器具有多達(dá) 4 MB 至 8 MB 的系統(tǒng)內(nèi)存。此系統(tǒng)內(nèi)存不專用于任何一個(gè)特定內(nèi)核，并且可以在 CPU、GPU 和加速器等元素之間共享。

與專用SRAM類似，更多共享系統(tǒng)內(nèi)存的主要好處是更少的DRAM訪問。例如，傳統(tǒng)的視頻編碼序列如下所示：

數(shù)字內(nèi)存 -》 視頻編碼器 -》 數(shù)字內(nèi)存 -》 附加計(jì)算 -》 DRAM

增加的系統(tǒng)緩存可實(shí)現(xiàn)以下功能：

DRAM -》 視頻編碼器 -》 系統(tǒng)內(nèi)存 -》 附加計(jì)算 -》 DRAM

如前所述，不同之處在于單獨(dú)的內(nèi)核不必不斷從片外DRAM獲取數(shù)據(jù)，因?yàn)榇笮拖到y(tǒng)內(nèi)存消除了對中間步驟的需求。

#3.增加的緩存大小

最后，隨著較新的處理技術(shù)使更高容量的內(nèi)存更實(shí)惠，緩存大小將不可避免地增加。在異構(gòu) SoC 上為 CPU、GPU、DSP 和其他核心架構(gòu)提供更大的緩存也將減少 DRAM 流量。

將增加的緩存大小與前兩項(xiàng)改進(jìn)相結(jié)合，開始產(chǎn)生一些重大收益。

Talla指出：“更多的SRAM，通用的系統(tǒng)內(nèi)存，以及更多的高容量緩存，可以讓你在未來三到五年內(nèi)將性能提高10倍到100倍，即使內(nèi)存帶寬可能只增加了一倍或四倍。

審核編輯：郭婷