在快速傅里叶变换（FFT）中，变换因子是一个复数，因而需要进行复数运算。但是，，这表明是1的次根。对于任意整数，是按对取模呈现周期性。在数论变换中，是以整数代替复数实现正变换和反变换，要求这个整数是1的次根。这一要求在一般的整数运算规则中不成立，只有采用同余式的运算规则才能找到满足这一要求的和。利用这样的和可以构成数论变换公式为：

…（1）

显然，这种变换在计算速度上比快速傅里叶变换快。

把一个给定的正整数称为模（mod），如果用去除任意两个整数和，所得余数相同，便称作和对模同余，记作：

…（2）

因此，同余式运算规则是以正整数为模的整数环域上所定义的一种线性正交变换。

在式（1）中，整数、、三者之间必须满足如下关系：

…（3）

满足上式的最小正整数叫作对模的指数，是1的次根，或简称是阶的。例如，为2时对模7的指数是3，对模11的指数是10。

在数论变换中要求找到合适的、和值。所选择的应当是高复合数。但如采用2的乘方，就能构成像FFT算法那样的信号流图，并且希望选取的值足够大，以满足实际需要。其次，所选取的应当能用简便的方法实现乘法运算，因为在计算机中乘法运算最花费时间；如果是2的乘方，可以用移位操作实现的乘方运算，因而比较方便。又由于是模运算，所以不存在舍入误差。此外，最好也是位数不太多的二进制数，而且必须是大于2的素数。

在数论变换的一般公式（1）中的模采用麦森数时，就称为麦森数论变换。麦森数为：

…（4）

它是一奇数。令，为素数，便有：

…（5）

在此情况下，最大可能的变换长度决定于。以为模，可以找到：

①，，，但是素数，也是素数，不是高复合数。

②，，，但由于，故不是高的复合数。因此，取麦森数作模是不合适的。

在数论变换中比较合理的模是选用费马数，即：

…（6）

前几个的值是；这5个费马数都是素数，而和都是复合数：

…（7）

在的情况下，还没有发现一个费马数是素数。称为第个费马数，模的计算可用位算术运算来完成。信号所占用的位数和滤波器系数决定了在输出中不引起溢出误差所需用的值，实际用的值比信号所占用位数的两倍稍大。为了能够采用费马数，如果以溢出条件得到的值不是一个2的幂时，应该把它增加到接近2的幂数。

因为是按模费马数进行算术运算，所以长为的序数的费马数论变换及其反变换表达式可写成：

…（8）

式中是满足式（9）的最小正整数：

…（9）

费马数论变换和傅里叶变换相类似。当时，数论变换的快速计算法的信号流图和FFT的算法信号流图也是一致的，只是把换成。但是，费马数论变换的基本函数是由2的方幂构成，不需要使用乘法，仅为移位操作，其运算速度快于FFT算法。加上费马数论变换算法是模算术运算，不存在舍入误差，从而能得到高精度的褶积。此外，由于FFT的基本函数是三角函数，需要预先存储这些基本函数，而费马数论变换算法却不需要存储基本函数。费马数论变换的缺点主要是它没有物理意义，在信号处理中不能运用中间过程；运算需要的字长与变换点数之间存在着严格的关系，随着输入序列的增长往往需要很长的字长。