片上多处理器结构是将多个处理单元集成到同一块芯片上，每个处理单元可以是简单的标量处理器，也可以是复杂的超标量处理器、超长指令字处理器甚至单片系统（System on a chip; SOC）等复杂的结构。多核处理器结构通常采用相对少量（例如：2,4,8,12,…,20核）大而复杂的处理核心构建，处理核心采用乱序执行，深度流水、超标量等复杂结构，片上采用大容量高速缓存（Cache）和共享存储结构，以期能高效地运行并行和串行程序。多核处理器结构是在传统单机并行处理系统基础上演化而来的，大量继承了对称多处理（SMP）单机并行处理技术，针对对称多处理的片上实现进行技术改良。处理器核间的高速缓存一致性维护的困难以及复杂处理器核的功耗从根本上限制了多核处理器结构的可扩展性。采用多核处理器结构的典型商用处理器有：美国英特尔（Intel）公司的至强（Xeon）处理器和美国超威半导体（AMD）公司的霄龙（EPYC）处理器。