SEPARATE QUANTIZATION METHOD OF FORMING COMBINATION OF 4-BIT AND 8-BIT DATA OF NEURAL NETWORK

專利類型

發明

專利國別 (專利申請國家)

美國

專利申請案號

16/585,492

專利證號

US 11,531,884 B2

專利獲證名稱

SEPARATE QUANTIZATION METHOD OF FORMING COMBINATION OF 4-BIT AND 8-BIT DATA OF NEURAL NETWORK

專利所屬機關 (申請機關)

國立交通大學

獲證日期

2022/12/20

技術說明

本發明提供一種應用於神經網絡之四位元與八位元組合之分離式量化方法，其在訓練資料集和驗證資料集存在時，利用一校準方法(calibration)判斷類神經網路模型中每一層輸出(activation)之閥值，以決定將該輸出分配多少給八位元，且在進行參數量化時，將每一層之該等參數依一固定比例分為四位元參數和八位元參數，分別進行量化，以得到四位元參數及八位元參數分別量化、縮小尺寸之類神經網路模型。

備註

連絡單位 (專責單位/部門名稱)

智慧財產權中心

連絡電話

03-5738251

網址