一个简单高效的分类方法,是分类器中最基本的分类方法。最近距离分类方法首先计算出各个类别的中心(常把一个类别的所有训练样本的均值作为该类别的中心),然后计算出待分类的样本与各个类别的中心间的距离,并将待分类的样本分到与其距离最小的类别。选择不同的距离计算公式时得到的分类结果可能不同。最简单的距离度量是欧几里得距离(简称欧氏距离)。欧氏距离度量下最小距离分类器跟基于高斯概率密度的贝叶斯分类器的关系是:当每类高斯概率密度函数的协方差矩阵为等方差对角矩阵且所有类别的方差相等,而且所有类别的先验概率相等时,贝叶斯分类器等价于欧氏距离下的最小距离分类器。
最小距离分类器常应用于有监督的分类问题中,其主要优点为对众多测试样本进行处理时计算复杂度低;缺点为由于只利用了每一类样本的均值而忽略了类别中的其他信息(如分布等),其分类精度有限。