假设检验又称统计假设检验，是一种基本的统计判断形式，也是数理统计学的一个重要分支。假设检验可以用来判断样本和样本，样本和总体的差异是由抽样误差引起的还是本质差别造成的。其基本原理是先对总体的特征做出某种假设，然后通过抽样研究的统计推理，对此假设应该被拒绝还是接受做出判断。假设检验的基本思想是小概率反正法思想。小概率思想是指小概率事件在一次试验中基本上不会发生。反证法思想是先提出假设，再用适当的统计方法确定假设成立的可能性大小，如可能性小，则认为假设不成立。

在假设检验过程中，表征假设的参数为已知值，比如在假设下，接收信号是正态分布的，其期望值和均方差都是确定的值，称之为简单假设。表征假设的参数是未知或者随机的假设称之为复合假设。例如在信号检测问题中，被检验的第假设可以写成：

…（1）

式中为第个信号；为未知的或者随机参量矢量；是加性随机噪声。若参量完全已知，则该检验问题退化成简单假设检验问题，否则具有未知参数条件下的信号检验称为复合假设检验。

假定观测数据矢量，它可以以观测空间中的一个点来描述，即。令：为假设为真时，且实际参数为时观测数据的条件概率密度；为系统处于时的先验概率；，它可以用参量空间中的一个点来描述，即，其的条件概率密度为。当时，称为多元复合假设检验；当时，模型退化为二元复合假设检验。

类似于简单假设检验，接收机的任务是要通过观测值，按照选定的判决准则进行假设检验。在复合假设检验中，信源输出个可能的信号之一，分别记为假设：每种可能的输出信号经与包含未知参数的概率转移机构映射到观测空间中。观测空间按选定的最佳信号检测准则划分为个子空间，即，并且满足：

…（2）

式中是判决假设成立的判决域。

复合假设检验就是要根据选定的最佳准则来判决信号所处的状态。常用的判决准则为贝叶斯判决准则。

假设表示系统处于的先验概率，且有；表示当为真时而选择了时观察者所付出的代价；表示在为真时的条件概率密度，且有。是观察到后选择警限函数，其定义为：

…（3）

基于贝叶斯判决策略可以得到：

…（4）

对于二元检验，贝叶斯判决准则为：

…（5）