光学系统设计指的是成像系统设计。光学设计“既是一门科学也是一门艺术”。不同的设计者会有不同的设计思路与方法，但是也都基本满足一定的大体流程。进行光学系统设计，首先要对系统需要满足的指标，如焦距、视场角、入瞳直径、工作波段等，以及系统需要实现的像质、系统需要满足的结构约束等有一个全面且充分的了解。接下来要选取一个设计的初始结构作为设计的起点。初始结构可以通过从专利库或者已有系统中找到参数接近的系统得到，也可以根据高斯光学以及像差理论直接求解得到。随着自由曲面加工技术的不断发展，自由曲面也越来越多地应用到成像系统设计中。但可用的自由曲面初始结构十分匮乏，因此一些自由曲面系统的主动设计方法（直接设计方法）应运而生。这些方法通过数值以及逐点计算，直接得到满足一定成像以及结构要求的系统作为初始结构。

在得到初始结构之后，下一步就是调整系统的结构参数，来提升系统的像质并满足系统的参数要求等。首先需要确定设计中允许使用的变量。如果没有特殊要求，描述系统中每个曲面形状的参数（曲率半径、二次曲面系数、非球面系数、自由曲面系数等）、曲面间距、曲面偏心与倾斜量、材料折射率等，都可以设为变量。另外，在设计过程中需要满足一定的约束条件，使得系统可以满足一定的系统参数以及结构约束。这些需要在实际设计开始前确定。光学设计过程一般还需要建立一个评价函数。主流光学设计软件的评价函数大多是基于系统各视场不同孔径的垂轴像差或者波像差定义而成的。

完成上述准备工作后，可以开始进行优化。优化过程实际上就是在满足给定的约束条件的基础上，优化变量的值，使评价函数尽可能的小。常用的优化方法包括阻尼最小二乘法、适应法，等等。优化完成后进行像质评价，看设计是否满足要求。若不满足要求，可以进一步调整变量选取、约束条件等，并进行优化直至满足设计需求。如果无法得到满足要求的系统，则可能需要进行重新设计，或者更换初始结构，甚至重新评估设计要求等。若得到满足要求的系统后，则需要进行公差分析，给出加工与装调容限，指导面形加工与系统的装调过程。最终完成元件的加工，并进行系统装调与测试。