代价函数较常运用在统计学、统计决策理论和经济学中。更通俗地说，在统计学中代价函数是一种衡量代价和错误（这种代价与错误估计有关）程度的函数。代价函数参数的真值为，参数估计值为，两者的不一致会带来一定的代价损失，这种损失是1个随机变量，用表示。

常见的代价函数主要有二次型代价函数、绝对误差型代价函数、成功-失败型代价函数等（见图）。

代价函数示意图

令表示真值和估计值的差异为：

…（1）

二次型代价函数：

…（2）

绝对误差型代价函数：

…（3）

成功-失败型代价函数：

…（4）