最小二乘法,一种数据处理思路,广泛应用于实验数据处理或函数拟合。在测量常量标量时,最小二乘法的目标是找到一个代表性的“真值”,使得多次测量值的偏差平方和最小。例如,测量戒指内径,多次使用同一卡尺测量并计算偏差的平方和,使得和最小的值即为最优估计。最小二乘法的数学表达式为:
最小二乘估计公式:[公式]
其中,Z、V为m维向量,H为m x n阶矩阵,且秩R(H)=n,m>=n。
当公式3取得最小值时,函数L对X求导等于0,解矩阵微分方程得到X的最小二乘估计为:
最小二乘估计公式:[公式] tips:最小二乘法本质上是方程定常参数的估计,依据实际测量数据求解假设的n阶方程参数。H矩阵表示不同量测与状态量之间的关系,如坐标变换矩阵。
算数平均数概念简单,但在商业化设备中广泛应用。最小二乘法在标量估计时等同于算数平均数计算,数学表达式为:
最小二乘估计公式:[公式] 其中[公式]
加权最小二乘法在存在不同精度量测时提高估计精度,通过引入加权矩阵W调整不同量测的权重。公式表达如下:
加权最小二乘估计公式:[公式] 其中W为正定加权矩阵。当量测误差方差不同时,加权最小二乘法能更准确地估计参数。例如,测量戒指内径时,利用两把卡尺得到的量测结果,通过加权最小二乘法进行综合计算,得到更精确的估计值。
递推最小二乘法应用于多次量测时,通过每次量测提取信息,修正之前的估计,减少计算量。以等差数列为例,利用公差和当前数值求前一个或后一个数,体现了递推思想。递推最小二乘法的关键在于建立相邻数值之间的逻辑关系。具体实现如下:
设X为确定常值向量,量测方程为:[公式] [公式] 其中[公式] 为Kronecker函数。递推最小二乘估计过程如下:
估计方程:[公式] 式中:[公式]
令[公式]
则k时刻加权最小二乘估计为:[公式] 当i=k+1时:[公式] 上式体现了递推雏形,P的逆已有等差数列的形式。
通过求逆引理,递推最小二乘法可以将状态估计与方差估计进行有效结合,实现状态的准确预测和估计。卡尔曼滤波算法进一步改进,不仅处理确定性常值向量估计,还能估计随机向量的时间过程,考虑估计误差以提高精度。
卡尔曼滤波方程的核心在于结合系统状态方程和量测信息,通过预测与更新步骤实现状态估计。卡尔曼滤波方程由状态预测、预测均方差、量测更新和估计均方差四部分组成,具体方程如下:
卡尔曼滤波方程:[公式] 其中,K为增益矩阵,E(A*B)表示A与B的协方差,E(A)和E(B)分别表示A和B的期望值。
卡尔曼滤波算法通过预测当前状态与预测均方差,结合量测信息更新状态估计与估计均方差,实现对随机过程的高效估计。