再談快速的高斯模糊演算法(使用多次均值濾波逼近和擴展的二項式濾波濾波器)及其優化。
- 2022 年 8 月 10 日
- 筆記
- ,, [03] 影像演算法優化, binomial filter, 三次均值高斯濾波, 展二項式濾波逼近高斯濾波
關於高斯模糊,我在我早期的部落格里也有兩篇文章予以描述:
SSE影像演算法優化系列二:高斯模糊演算法的全面優化過程分享(一)。
SSE影像演算法優化系列二:高斯模糊演算法的全面優化過程分享(二)。
一個是遞歸的IIR濾波器,一個Deriche濾波器,他們的速度都已經是頂級的了,而且都能夠使用SIMD指令優化,其中有講到《Recursive implementation of the Gaussian filter》這個方法在半徑較大的時候會出現一定的瑕疵,核心原因是大半徑會導致其中的某些係數特別小,因此造成浮點精度的丟失,因此,要保證效果就必須在計算過程中使用double數據類型,而使用了double,普通的sse指令集的增速效果就不是很明顯了,因此,為了速度可能需要使用AVX或者更高的AVX512。
那麼這兩個都是從離散角度來說比較精確的演算法,因為有了SIMD指令,使得他們在PC上即使有了大量的浮點計算,計算的速度也比較不錯。在一些特殊的情況或者特殊的硬體中,還是存在浮點計算非常慢的情況(比如FPGA),因此,還是有不上資料和文章提出了一些近似的演算法來減少計算量,在celerychen分享的文章快速高斯濾鏡演算法中,除了上述兩個演算法外,還提到了均值濾波逼近高斯濾波以及 擴展二項式濾波逼近高斯濾波兩個方法。
一、Binomial Filter 二項式濾波濾波器
多年前我也看過這個文章,那個時候也沒有怎麼在意,最近在研究halcon的一些濾波器時,偶爾翻到其binomial_filter函數的說明時,突然看到其有如下的一些描述:
The binomial filter is a very good approximation of a Gaussian filter that can be implemented extremely efficiently using only integer operations. Hence, binomial_filter is very fast.
他說這個binomial filter只有整形的計算,因此速度非常快。
是不是這樣的呢,於是我在網路上搜索這方面的資料,大部分都指向 extended binomial filter for Fast gaussian Blur這篇文章,可以參考道客巴巴里的這篇文章://www.doc88.com/p-1896883955048.html
這個文章寫得很詳細,有著非常豐富的數學推導和公式,還有很多漂亮的曲線,比如下面這個描述了不同的半徑r和不同的n階畢竟的精度。當n=3或者n=4時,也已經相當的準確了。特別是半徑比價大時(模糊程度)。
這個文章的末尾提供了相關的參考程式碼,但是那個參考程式碼有點凌亂,而且不知道是啥語言,好像是可以為PS寫插件的腳本一樣,不過大概還是能猜到是什麼意思。
celerychen在他的文章說裡面幾個重要的初始參數不知道如何確定,主要可能是指的scaleFactor,這個其實因該他做介面預覽時的一些縮放值,我們做演算法時,他就是1。
另外,那個文章是比較早的了,作者提供的那個網站里有提供最新的一批程式碼,詳細見:Efficient Gaussian Blur Algorithm
這個文章中提供的一個重要的計算公式即為:
其中為用戶輸入的標準差,n為離散的階數,r為計算得到半徑,由上式我們可以推到出:
r = sqrtf(12.0 * Sigma * Sigma / n + 1)
注意,這裡得到的r應該是浮點數,但是浮點數,我們無法進行均值模糊,所以一般需要四捨五入取整。當然,如果要求精度的,那就要去上下兩個半徑值分別做處理後,在對結果進行插值。
這個公式在 均值濾波逼近高斯濾波 的文章里也有提到。
我們從Efficient Gaussian Blur Algorithm 這個網站的相關鏈接里可以有如下描述:
- gauss2.ffp: The program for the first degree approximation is a great improvement to the box blur. It is as easy to understand and has only slight approximation error.
- gauss3.ffp: The program for the second degree approximation is accurate enough for most applications.
- gauss4.ffp: The third degree approximation has nearly no difference to the Gaussian blur for 8-bit images apart of rounding errors
我想說的是gauss2.ffp其實是Third degree approximation對應的程式碼(n = 3),gauss3.ffp和gauss4.ffp都是Fourth degree approximation對應的程式碼(n=4),但是他們裡面的疊加順序寫法又有所不同(裡面的變數sum, deri1, deri2, diff疊加的順序),那麼真正的Second degree approximation文章里沒有給鏈接,但是可以用在鏈接 //members.chello.at/easyfilter/gauss1.ffp 里打開。感覺像是作者故意隱藏了一樣。
另外還要注意在論文里的sum, deri1, deri2, diff和鏈接里的順序也不太一樣。
為了方便大家測試,我從鏈接里整理了一個可以運行的程式碼,很醜陋,但是確實效果和速度都還不錯。
int IM_BinomialFilter4_PureC_Gray_Raw(unsigned char *Src, unsigned char *Dest, int Width, int Height, int Stride, int Sigma)
{
int Channel = Stride / Width;
if ((Src == NULL) || (Dest == NULL) || (Dest == NULL)) return IM_STATUS_NULLREFRENCE;
if ((Width <= 0) || (Height <= 0)) return IM_STATUS_INVALIDPARAMETER;
if (Channel != 1) return IM_STATUS_NOTSUPPORTED;
int Status = IM_STATUS_OK;
Sigma = IM_Min(Sigma, 256); // 如果全部用整形的數據,半徑不能大於30, Sum和Deri用浮點半徑可以取得較大
int Radius = (int)(sqrtf(3.0 * Sigma * Sigma + 1) + 0.4999999f);
int Weight = Radius * Radius * Radius * Radius;
float InvWeight = 1.0f / Weight;
unsigned char *Buffer = (unsigned char *)malloc((IM_Max(Width, Height) + 4 * Radius) * sizeof(unsigned char));
unsigned char *Temp = (unsigned char *)malloc(Height * Stride * sizeof(unsigned char));
int *RowOffset = (int *)malloc((Width + 4 * Radius) * sizeof(int));
int *ColOffset = (int *)malloc((Height + 4 * Radius) * sizeof(int));
if ((Buffer == NULL) || (Temp == NULL) || (RowOffset == NULL) || (ColOffset == NULL))
{
Status = IM_STATUS_OUTOFMEMORY;
goto FreeMemory;
}
// 注意起點位置是偏移了一個1個像素的
for (int X = 0; X < Width + 4 * Radius; X++)
RowOffset[X] = IM_GetMirrorPos(Width, X - 2 * Radius + 1);
for (int Y = 0; Y < Height + 4 * Radius; Y++)
ColOffset[Y] = IM_GetMirrorPos(Height, Y - 2 * Radius + 1);
for (int Y = 0; Y < Height; Y++) // horizontal blur...
{
unsigned char *LinePS = Src + Y * Stride;
unsigned char *LinePD = Temp + Y * Stride;
for (int X = 0; X < 2 * Radius - 1; X++)
Buffer[X] = LinePS[RowOffset[X]];
memcpy(Buffer + 2 * Radius - 1, LinePS, Width);
for (int X = 2 * Radius - 1 + Width; X < Width + 4 * Radius; X++)
Buffer[X] = LinePS[RowOffset[X]];
float Sum = 0, Deri1 = 0;
int Deri2 = 0, Diff = 0;
for (int X = -4 * Radius; X < 0; X++)
{
Sum += Deri1;
Deri1 += Deri2;
Deri2 += Diff; // accumulate pixel blur
Diff += Buffer[X + 4 * Radius];
if (X + 3 * Radius >= 0) Diff -= 4 * Buffer[X + 3 * Radius]; // -4,
if (X + 2 * Radius >= 0) Diff += 6 * Buffer[X + 2 * Radius]; // +6,
if (X + Radius >= 0) Diff -= 4 * Buffer[X + 1 * Radius]; // -4, (+1)}
}
for (int X = 0; X < Width; X++)
{
Sum += Deri1;
Deri1 += Deri2;
Deri2 += Diff;
Diff += Buffer[X] - 4 * Buffer[X + Radius] + 6 * Buffer[X + 2 * Radius] - 4 * Buffer[X + 3 * Radius] + Buffer[X + 4 * Radius]; //{+1, -4, +6, -4, +1}
LinePD[X] = (int)(Sum * InvWeight + 0.499999f);
//LinePD[X] = (Sum + Weight / 2) / Weight;
}
}
for (int X = 0; X < Width; X++) // Vertical Blur
{
unsigned char *LinePS = Temp + X;
unsigned char *LinePD = Dest + X;
for (int Y = 0; Y < 2 * Radius - 1; Y++)
Buffer[Y] = LinePS[ColOffset[Y] * Stride];
for (int Y = 0; Y < Height; Y++)
{
Buffer[Y + 2 * Radius - 1] = LinePS[Y * Stride];
}
for (int Y = 2 * Radius - 1 + Height; Y < Height + 4 * Radius; Y++)
Buffer[Y] = LinePS[ColOffset[Y] * Stride];
float Sum = 0, Deri1 = 0;
int Deri2 = 0, Diff = 0;
for (int Y = -4 * Radius; Y < 0; Y++)
{
Sum += Deri1;
Deri1 += Deri2;
Deri2 += Diff; // accumulate pixel blur
Diff += Buffer[Y + 4 * Radius];
if (Y + 3 * Radius >= 0) Diff -= 4 * Buffer[Y + 3 * Radius]; // -4,
if (Y + 2 * Radius >= 0) Diff += 6 * Buffer[Y + 2 * Radius]; // +6,
if (Y + Radius >= 0) Diff -= 4 * Buffer[Y + 1 * Radius]; // -4, (+1)}
}
for (int Y = 0; Y < Height; Y++)
{
Sum += Deri1;
Deri1 += Deri2;
Deri2 += Diff;
Diff += Buffer[Y] - 4 * Buffer[Y + Radius] + 6 * Buffer[Y + 2 * Radius] - 4 * Buffer[Y + 3 * Radius] + Buffer[Y + 4 * Radius]; //{+1, -4, +6, -4, +1}
LinePD[0] = (int)(Sum * InvWeight + 0.499999f);
//LinePD[0] = (Sum + Weight / 2) / Weight;
LinePD += Stride;
}
}
FreeMemory:
if (Buffer != NULL) free(Buffer);
if (Temp != NULL) free(Temp);
if (RowOffset != NULL) free(RowOffset);
if (ColOffset != NULL) free(ColOffset);
return Status;
}
注意這個是翻譯自gauss3.ffp的程式碼並做了適當的調整,我們看到程式還是使用了很多的浮點數的,否則當Sigma稍微大一點,結果就溢出了,當然,程式碼里也給出了如果SIgma不大於30,則可以全部用整形實現。
我們處理了一副3000*2000的灰度圖,出乎意料的是,就這個很隨意的程式碼能獲得82毫秒的成績。
優化:
乍一看起來,Vertical Blur那一部分的程式碼訪問記憶體的方式很不友好,有著大量的跨行訪問記憶體的地方,確實原始的程式碼是有這個問題,但是這種模糊都有這個特性,在 高斯模糊演算法的全面優化過程分享(一) 中我們探討過垂直方向處理演算法一般不宜直接寫,而應該用一個臨時的行快取進行處理,這裡同樣可以用這個方法來處理,而且處理的程式碼還能通用各種不同的通道,這裡不多贅述。
Horizontal blur部分,看程式碼知道是存在著嚴重的像素前後依賴的,這種特性非常不利於指令集優化,處理的方式呢,我在部落格里也多次提到,把多行(比如四行)合併到一行後,進行處理,這樣合併的一行里就有連續4個像素的處理是毫無關係的,就可以藉助於SSE之類的指令予以處理了,這部分方式可以參考我的博文: SSE影像演算法優化系列五:超高速指數模糊演算法的實現和優化(10000*10000在100ms左右實現)。
經過一番折騰呢,這個演算法可以優化到13ms左右(4階),當然,這個程式碼明顯有個特性,隨著Sigma的增大,程式里的邊緣部分的計算量也會增加,因此,演算法的耗時和參數有一定的關係,但是不是特別明顯。
如果是使用的2階演算法,則內部計算要更加的少,同樣的圖片大約在11ms左右可以處理完成,而原始的Deriche演算法嘛,耗時大概在18ms上下。
2階的有個比較好的特性,就是他的全部的計算過程里的累加量都在整形的有效範圍呢,因此確實可以用整形計算實現效果。
完成了這個演算法後,回頭在去看Halcon的binomial_filter ,感覺味道又變了,本來以為他的那個MaskWidth和MaskHeight就是對應的水平和垂直方向的Sigma的,結果測試不是,他的結果在MaskWidth和MaskHeight很大時,模糊的程度也比較小。目前還搞不清楚是怎麼回事。
不過有一點,Halcon的這個運算元的速度那真叫一個牛逼,3000*2000的圖都只要幾豪秒(隨MaskWidth和MaskHegiht的增加耗時也在增加)。
二、使用多次均值模糊模擬高斯模糊
這個演算法的參考文獻的正式名字應該是Fast Almost-Gaussian Filtering,而不是celerychen文章里提的 Arbitrary Gaussian Filtering with 25 Addtions and 5 Multiplications per Pixel,那個文章里根本沒看到說25次加法和5次乘法。
這個文章的理論基礎其實也是這個公式:
英文的原文為:
他這裡給出了用均值模糊模擬高斯模糊的半徑的計算方式,即上圖中公式5,當給定均方差,給定均值模擬的次數,就可以計算出m。
在//blog.ivank.net/fastest-gaussian-blur.html這裡作者給出了相關的簡易的示例程式碼,稍作整理如下所示:
// //github.com/amazingyyc/fasted_gauss_blur // //www.cnblogs.com/amazingyyc/p/4530634.html // //www.doc88.com/p-1896883955048.html // 使用 N 個 BoxBlur 擬合 Sigma的高斯函數 // 參考:Arbitrary Gaussian Filtering with 25 Addtions and 5 Multiplications per Pixel.pdf // Fast Almost - Gaussian Filtering.pdf void IM_GetBoxRadiusForGauss(float Sigma, int *Size, int N) { float IdealW = sqrt(12.0 * Sigma * Sigma / N + 1.0); // 論文公式1 int LowerW = floor(IdealW); // 向下取整 if (LowerW % 2 == 0) LowerW--; // the first odd integer that is less than IdealW int UpperW = LowerW + 2; // the other being being the first odd integer greater than IdealW int M = round((12.0 * Sigma * Sigma - N * LowerW * LowerW - 4 * N * LowerW - 3 * N) / (-4 * LowerW - 4)); // 論文公式2 for (int Y = 0; Y < N; Y++) // Apply an averaging filter of width LowerW M times. Size[Y] = (Y < M ? LowerW : UpperW); // Apply an averaging filter of width UpperW N - M times. } int IM_FastGaussBlur(unsigned char *Src, unsigned char *Dest, int Width, int Height, int Stride, int Radius) { int Channel = Stride / Width; if ((Src == NULL) || (Dest == NULL) || (Dest == NULL)) return IM_STATUS_NULLREFRENCE; if ((Width <= 0) || (Height <= 0)) return IM_STATUS_INVALIDPARAMETER; if ((Channel != 1) && (Channel != 3) && (Channel != 4)) return IM_STATUS_NOTSUPPORTED; int Status = IM_STATUS_OK; unsigned char *Temp = (unsigned char *)malloc(Height * Stride * sizeof(unsigned char)); if (Temp == NULL) { Status = IM_STATUS_OUTOFMEMORY; goto FreeMemory; } int BoxRadius[3]; // 使用3次均值模糊代替高斯 IM_GetBoxRadiusForGauss(Radius, BoxRadius, 3); // 計算擬合的半徑 Status = IM_BoxBlur(Src, Dest, Width, Height, Stride, (BoxRadius[0] - 1) / 2); if (Status != IM_STATUS_OK) goto FreeMemory; Status = IM_BoxBlur(Dest, Temp, Width, Height, Stride, (BoxRadius[1] - 1) / 2); if (Status != IM_STATUS_OK) goto FreeMemory; Status = IM_BoxBlur(Temp, Dest, Width, Height, Stride, (BoxRadius[2] - 1) / 2); if (Status != IM_STATUS_OK) goto FreeMemory; FreeMemory: if (Temp != NULL) free(Temp); return Status; }
可以看到,就是簡單的3次均值模糊,因為均值模糊可以高度的向量化編程,擁有特別特別快的速度,因此,也能獲得非常優異的性能。
三、效果比較
對標準的高斯模糊,二階二項式、4階二項式以及均值模糊模擬進行測試,發現他們在視覺上無特備明顯的差異。
原始影像 Deriche濾波器 2階多項式濾波器
4階多項式濾波器 三級均值模糊
可以通過我的DEMO里動態的看到這些濾波器的結果差異,感覺這些差異是在可接收的範圍內的。
可執行的DEMO下載地址為: //files.cnblogs.com/files/Imageshop/SSE_Optimization_Demo.rar?t=1660121430
如果想時刻關注本人的最新文章,也可關注公眾號: