以时间作为参数的随机变量的时间序列通常称为随机过程。如果进行连续观察，则获得具有连续参数的函数作为该过程的样本。如果在离散时间进行观测，则得到样本。随机过程研究的是随机现象演变过程的统计规律性，最早源于物理学特别是布朗运动的研究。随机过程被用作随机变化的系统和现象的数学模型，不仅广泛应用于自然科学的各个领域，在社会科学的许多领域也日益受到重视。

在统计物理学中，描述大量粒子组成系统的宏观状态物理量，对应于微观量的统计平均。由此定义为平均值的宏观量伴随着由相关微观自由度的热扰动引起的涨落。当所研究的系统处于非平衡态时，描述系统必须要考虑平均值和涨落的时间演化。随机变量和随机过程是非平衡统计物理学的重要工具。1905年A.爱因斯坦对布朗运动的理论解释开启了借助随机过程描述自然现象的数理科学发展方向。如果人们只关心由多粒子构成的整体中一部分粒子的演化，则把这部分粒子叫作系统，其他部分称为环境。可以引入随机力的概念来模拟环境对于系统的影响。在微观层面上，系统运动的随机轨迹是概率描述的基本要素。一般假设随机力的不同随机实现是独立的，并且粒子的运动不具有长时间记忆。法国物理学家P.朗之万第一次在布朗粒子牛顿运动方程中增加随机力，开创了一个现在称为随机微分方程的数学领域，这样朗之万方程也成为研究各种非平衡系统的常见方程。将随机过程用于非平衡物理过程的模拟，通常采用马尔可夫近似。通过研究该马尔可夫过程概率分布演化的主方程以及福克-普朗克方程可得到相关物理系统的非平衡演化行为。如果随机过程在离散空间和时间上演化，则可以使用元胞自动机模型。