最小方均誤差 (數位濾波器)

${\displaystyle MSE\triangleq {\frac {1}{f_{s}}}\int \limits _{-f_{s}/2}^{f_{s}/2}|R(f)-H_{d}(f)|^{2}df}$

其中${\displaystyle R(f)}$為設計濾波器響應，有k+1項：${\displaystyle R(F)=\sum _{n=0}^{k}s[n]cos(2\pi nF)}$ ，${\displaystyle F}$ 表示頻率變數對取樣頻率${\displaystyle f_{s}}$的正歸化參數： ${\displaystyle F={\frac {f}{f_{s}}}}$ ,是離散化的頻率(normalized frequency)。此為離散時間傅立葉轉換表示法

其中${\displaystyle H_{d}(f)=\sum _{n}h[n]e^{-j2\pi f \over f_{s}}=H_{d}(f)=\sum _{n}h[n]e^{-j2\pi nF}}$ 是理想濾波器的離散時間傅立葉轉換表示法。

注意此算式中對頻譜的積分上下界，採取正負取樣頻率的一半即可。[1]因為響應函式已經被取樣，會讓信號頻譜具有週期性，其週期就是取樣頻率為${\displaystyle f_{s}}$。所以探討MSE時，積分範圍採取${\displaystyle -{\frac {f_{s}}{2}}}$到${\displaystyle {\frac {f_{s}}{2}}}$即可，節省運算量。

另外，此種將函數平方再對變數積分取平均的算法，類似對變數取${\displaystyle L_{2}}$範數。即是對向量做二維的純量化平均的處理，和另一個設計濾波器做法Mini-max相比，做最佳化較容易，因為這是實函數平方微分後再積分的線性運算

運用定義，將${\displaystyle F}$取代${\displaystyle f}$做變數變換：

${\displaystyle F={\frac {f}{f_{s}}}}$ ，${\displaystyle dF={\frac {1}{f_{s}}}df}$

${\displaystyle {\begin{aligned}MSE&=\int _{-1/2}^{1/2}|R(F)-H_{d}(F)|^{2}dF\\&=\int _{-1/2}^{1/2}|\sum _{n=1}^{k}s[n]cos(2\pi nF)-H_{d}(F)|^{2}dF\\\end{aligned}}}$

因為絕對值內函數是以時刻變數構成的實函數，所以可將絕對值平方直接寫成兩個實函數部分相乘。

${\displaystyle MSE=\int _{-1/2}^{1/2}\left(\sum _{v=0}^{k}s[v]cos(2\pi vF)-H_{d}(F)\right)\left(\sum _{\tau =0}^{k}s[\tau ]cos(2\pi \tau F)-H_{d}(F)\right)dF}$

將MSN對s{n]做偏微分，

${\displaystyle {\begin{aligned}{\frac {\partial MSE}{\partial s[n]}}&=\int _{-1/2}^{1/2}cos(2\pi nF){\Bigl (}\sum _{\tau =0}^{k}s[\tau ]cos(2\pi \tau F)-H_{d}(F){\Bigr )}dF\\&+\int _{-1/2}^{1/2}{\Bigl (}\sum _{v=0}^{k}s[v]cos(2\pi vF)-H_{d}(F){\Bigr )}dF\\\end{aligned}}}$

將上式第一個等號後面的兩個${\displaystyle \Sigma }$項合併，因為引數起始值和最末項值相同。

${\displaystyle {\begin{aligned}{\frac {\partial MSE}{\partial s[n]}}&=2\sum _{\tau =0}^{k}s[\tau ]\int _{-1/2}^{1/2}cos(2\pi \tau F)cos(2\pi nF)dF\\&-2\int _{-1/2}^{1/2}H_{d}(F)cos(2\pi nF)dF,\forall n=0,1,2,...k\\\end{aligned}}}$

上式等號右邊的兩項中，都各有將餘弦函數從-1/2積分到1/2，又因為有兩個自變數係數不同的餘弦函數相乘，整個計算結果要分開討論。

在數位濾波器設計中，可以利用權重函數${\displaystyle W(F)}$去設計定頻段更接近理想值。則MSE則表示為：

${\displaystyle MSE=\int _{-1/2}^{1/2}W(F)|R(F)-H_{d}(F)|^{2}dF=\int _{-1/2}^{1/2}W(F){\Bigl (}\sum _{-1/2}^{1/2}s[\tau ])cos(2\pi \tau F)-H_{d}(F){\Bigr )}dF}$

MSE對s[n]的微分值為零可改寫為：

${\displaystyle {\frac {\partial MSE}{\partial s[n]}}=2\int _{-1/2}^{1/2}W(F)cos(2\pi nF){\biggl (}\sum _{tau}^{k}s[\tau ]cos(2\pi \tau F)-H_{d}(F){\biggr )}dF}$

${\displaystyle =\sum _{\tau =0}^{k}s[\tau ]\int _{-1/2}^{1/2}W(F)cos(2\pi nF)cos(2\pi \tau F)dF-\int _{-1/2}^{1/2}W(F)H_{d}(F)cos(2\pi nF)df=0,n\in [0,k]}$

${\displaystyle \Rightarrow \sum _{\tau =0}^{k}s[\tau ]\int _{-1/2}^{1/2}W(F)cos(2\pi nF)cos(2\pi \tau F)dF=\int _{-1/2}^{1/2}W(F)H_{d}(F)cos(2\pi nF)dF}$

可再將上式寫成矩陣式：

${\displaystyle {\begin{bmatrix}A[0,0]&A[0,1]&A[0,2]&...&A[0,k]\\A[1,0]&A[1,1]&A[1,2]&...&A[1,k]\\\vdots &\vdots &\vdots &\ddots &\vdots \\A[k,0]&A[k,1]&A[k,2]&\cdots &A[k,k]\end{bmatrix}}{\begin{bmatrix}s[0]\\s[1]\\\vdots \\s[k]\end{bmatrix}}={\begin{bmatrix}B[0]\\B[1]\\\vdots \\B[k]\end{bmatrix}}}$ A矩陣每一行表示不同${\displaystyle \tau }$代表的數值，每一列代表不同n代表的數值；s向量與B向量每一列表示不同n代表的數值。

其中：${\displaystyle A[n,\tau ]=\int _{-1/2}^{1/2}W(F)cos(2\pi nF)cos(2\pi \tau F)dF,B[n]=\int _{-1/2}^{1/2}W(F)H_{d}(F)cos(2\pi nF)dF}$

經由此舉陣式可解出帶有權重函數設計的${\displaystyle s[n]}$。

最後將${\displaystyle s[n]}$帶入${\displaystyle h[k]}$：

${\displaystyle {\begin{cases}h[k]=s[0]\\h[k+n]=s[n]/2,h[k-n]=s[n]/2,&{\text{for }}n=1,2,3,...,k\\h[n]=0,{\text{ for }}n<0{\text{ and }}n\geq N.\end{cases}}}$

${\displaystyle h[k]}$即是欲設計的濾波器響應。