如果卷积核的尺寸是K×KK\times KK×K,有CCC个特征图作为输入,每个输出的特征图大小为H×WH\times WH×W,输出为MMM个特征图。

计算量分析

在上述情况下,卷积神经网络一次前向传播需要的乘法运算次数为:

H×W×M×C×K×KH\times W\times M\times C\times K\times KH×W×M×C×K×K

同时,所要进行的加法计算次数分为考虑偏置和不考虑偏置:

(1)考虑偏置的情况:

为了得到输出的特征图的一个未知的像素,我们需要进行
(C×K×K−1)+(C−1)+1=C×K×K(C\times K\times K - 1) + (C - 1) + 1 = C \times K \times K(C×K×K1)+(C1)+1=C×K×K
次加法操作,其中K×KK\times KK×K大小的卷积操作需要K×K−1K\times K - 1K×K1次加法,由于有C个通道,所以需要将结果乘以C,每个通道间的数要相加,所以需要C - 1次加法,最后再加上偏置的1次加法。

所以总的加法计算量如下:

H×W×M×C×K×KH\times W\times M\times C\times K\times KH×W×M×C×K×K

所以总的卷积运算计算量(乘法+加法):

2×H×W×M×C×K×K2 \times H\times W\times M\times C\times K\times K2×H×W×M×C×K×K

(2)不考虑偏置的情况:

总的卷积计算量:

H×W×M×(2×C×K×K−1)H\times W\times M\times (2\times C\times K\times K - 1)H×W×M×(2×C×K×K1)

参数量分析

卷积核参数量:

M×C×K×KM\times C\times K\times KM×C×K×K

偏置参数量:

MMM

总体参数量:

M×C×K×K+MM\times C\times K\times K + MM×C×K×K+M

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐