BERT-whitening-pytorch icon indicating copy to clipboard operation
BERT-whitening-pytorch copied to clipboard

Published 20 hours ago • verified publisher icon autoliuweijie

在线推理的时候，怎么计算 变换矩阵和偏置项

Open kennyLSN opened this issue 2 years ago • 2 comments

在线推理的时候，只有待排序的几个样本，如何计算变化矩阵和偏项

kennyLSN avatar Oct 15 '21 02:10 kennyLSN

你可以随机抽样一部分样本，离线将矩阵和偏项计算好，在线推理的时候直接使用计算好的矩阵和偏项。

autoliuweijie avatar Oct 18 '21 03:10 autoliuweijie

在线推理时，kernel和bias可以用预存的，但是normalization每次的结果也不一样，这个怎么解决比较好呢，需要把normalization的参数也固定下来吗

BacallZhong666 avatar Aug 09 '22 01:08 BacallZhong666