使用環張量之深度神經網路加速方法及其系統

專利類型

發明

專利國別 (專利申請國家)

中華民國

專利申請案號

110103724

專利證號

I 775296

專利獲證名稱

使用環張量之深度神經網路加速方法及其系統

專利所屬機關 (申請機關)

國立清華大學

獲證日期

2022/08/21

技術說明

本發明提供一種適用於卷積神經網路之記憶體優化實現之區塊式推論方法。區塊推論步驟驅動運算處理單元將各輸入區塊資料執行多層卷積操作而產生輸出區塊資料。區塊推論步驟依據輸出區塊資料之位置沿掃描換行方向選擇第i層重新計算特徵。區塊推論步驟依據第i層重新計算輸入特徵區塊資料沿區塊掃描方向選取出第i層重複利用特徵。卷積運算步驟依據第i層重新計算特徵及第i層重複利用特徵執行卷積運算。藉此，透過不同方向使用不同特徵之計算方式，既不增加過多計算量及內部區塊暫存器，亦能大幅降低外部記憶體之頻寬需求。

備註

連絡單位 (專責單位/部門名稱)

智財技轉組

連絡電話

03-5715131-62219

網址