理想情况下，光模分复用传输系统的不同模式之间是正交并行的，因此，若模间串扰可控，只要光纤中支撑的模式足够多，相应地，就能极大提高信道传输容量。模分复用系统中，发射端首先将多路单模信号调制，而后利用模式转换/复用器将基模转换到不同的高阶模式，同时将不同高阶模式复用后输入多模（少模）光纤中传输，传输链路中用多模放大器来补偿链路的损耗。在接收端，多个模式经过模分解复用/转换器后再次转换为多个基模输入多路接收机中进行接收。

根据光纤中模式间串扰（耦合）的特性可将模分复用分为弱耦合模分复用和强耦合模分复用两类。弱耦合模分复用系统不需要多入多出均衡算法进行接收，通常用于短距离网络中；强耦合模分复用需要在接收端采用多入多出算法消除模式间耦合的影响，通常用于超长距离超大容量骨干网传输。