基本思想是：首先通过非线性映射将输入样本映射到高维特征空间中，然后在该高维特征空间中进行Fisher线性判别分析，找出同时使得类间散度最大化而类内散度最小化的投影子空间，从而实现相对于原输入空间为非线性的判别分析。

在进行KFDA时，输入样本首先经由非线性映射映射到高维特征空间，得到对应的高维特征表示。在高维特征空间中，进行Fisher线性判别分析就是求解问题，式中为高维特征空间中的类间离度矩阵，为高维特征空间中的类内散度矩阵。式中为类别数；为第类中的样本数；为高维特征空间中第类的样本均值；为高维特征空间中所有数据的样本均值。

准确地计算通常是不可能的，因为高维特征空间可能是无穷维。这种情况下，可以将算法改写为内积的形式，并利用核技巧，用输入样本的核函数来代替高维特征空间中两矢量的内积，从而隐含地实现数据的高维映射。

KFDA方法通过核函数与线性判别分析的结合有效实现了高维特征空间中最优投影矩阵的求解，从而实现了数据的非线性监督降维。KFDA方法已被成功应用于人脸识别与检测、手写数字识别和掌纹识别等领域中。