设M是Hilbert空间H的闭线性子空间,那么对H中的每一个向量,在M中必存在唯一的
,使得向量
的范数
取到
在M中变化时的最小值,且向量
必与M正交。其中
称为
在M中的正交投影。
正交投影定理中,对于闭线性子空间M,向量分解唯一,且
。向量
在线性子空间M上的正交投影
是M中与
距离最近的一个向量。例如下图中,一棵树在太阳下的影子(向量
)可以看作三维空间(Hilbert空间H)的树(向量
)在地面(二维平面M)上的投影,当太阳在树顶正上方时,影子的树顶到真实树顶之间的距离最短(等于树的高度,向量
),这时的影子就是正交投影。
正交投影定理被广泛地应用于近似理论、预测理论、优化理论等领域。