記憶體內運算(CIM, Computing-in-memory)技術有望消除在網路邊緣進行人工智慧(AI)語音處理產生的大量資料通訊瓶頸,但需要一種可同時進行神經網路計算和儲存權重的嵌入式記憶體解決方案。今日,Microchip Technology Inc.透過旗下子公司冠捷半導體(SST)宣佈, 其SuperFlash memBrain神經形態記憶體解決方案為知存科技(WITINMEM)神經處理SoC解決了這一難題。這是首款批量生產的SoC,可使亞毫安級(sub-mA)系統在開機後立即即時降低語音噪音並識別數以百計的指令詞。
Microchip與知存科技合作,將Microchip基於SuperFlash技術的memBrain類比記憶體計算解決方案整合到知存科技的超低功耗SoC中。該SoC具有用於神經網路處理的記憶體內運算技術,包括語音辨識、聲紋識別、深度語音降噪、場景檢測和健康狀態監測。知存科技目前正在與多個客戶合作,將在2022年推出基於該SoC的產品。
知存科技執行長Shaodi Wang表示:「WITINMEM 憑藉基於先進神經網路模型的 Microchip 的 memBrain 方案,持續努力解決網路邊緣即時 AI 語音的計算密集型需求。我們在 2019 年率先開發出用於音頻的CIM晶片,如今更進一步推出並量產超低功耗神經處理 SoC,簡化並提高了智慧語音和健康產品的語音處理效能,樹立了另一個重要里程碑。」
SST半導體(SST)授權部門副總裁Mark Reiten表示:「我們很高興知存科技成為我們的主要客戶,感謝知存科技利用我們的技術推出優秀產品,進入不斷擴大的人工智慧邊緣處理市場。知存科技開發出基於CIM神經處理器的單晶片解決方案,消除了傳統處理器使用數位DSP和SRAM/DRAM來儲存和執行機器學習模型存在的問題,充分展現了memBrain技術的價值。」
Microchip的memBrain神經形態記憶體產品,針對神經網路的向量矩陣乘法(VMM)進行優化。它使得用於電池供電和深度嵌入式邊緣設備的處理器能夠提供盡可能高的單位瓦特人工智慧推理效能。這是透過將神經模型的權重作為數值儲存在記憶體陣列中和將記憶體陣列作為神經計算元素來實現的,功耗比其他方法低10至20倍,同時由於不需要外部DRAM和NOR,處理器整體材料清單(BOM)成本也較低。
將神經模型永久儲存在memBrain解決方案的處理元件中也能夠支援即時神經網路處理的即時開啟功能。知存科技利用SuperFlash技術的浮動柵單元的非揮發性(nonvolatility),在空閒狀態下關閉記憶體內運算巨集,進一步減少物聯網實際應用的靜態洩漏功耗(leakage power)。
如需瞭解更多資訊,請聯繫[email protected] 或參閱SST website。