位于美国东部，从加拿大的纽芬兰和拉布拉多起，绵亘于北美洲东部，向南至美国亚拉巴马州中部，呈东北-西南走向。全长近3200千米，宽130～560千米。整个山系分为北、中、南阿巴拉契亚山三个区域。北部区域包括加拿大魁北克省的希克肖克山和圣母山脉、纽芬兰省的长岭，以及美国缅因州的卡塔丁山、新罕布什尔州的怀特山、佛蒙特州的格林山，格林山延伸至马萨诸塞州、康涅狄格州和纽约州东部称为伯克希尔山。中部区域有美国纽约州的卡茨基尔山、宾夕法尼亚州南部蓝岭的起点和起自纽约州延伸至宾夕法尼亚州西部马里兰州西部和俄亥俄州东部的阿勒格尼山脉。南部区域有阿勒格尼山脉在美国西弗吉尼亚州和弗吉尼亚州的山段，蓝岭在弗吉尼亚州、北卡罗来纳州西部、南卡罗来纳州和乔治亚州部分地区的山段，弗吉尼亚州、田纳西州和北卡罗来纳州境内的尤内卡山及从肯塔基州东部延伸至亚拉巴马州北部的坎伯兰山脉。海拔较高处有北部的大怀特山和南部北卡罗来纳州的布莱克山和海拔1800米以上的大雾山。最高峰米切尔峰海拔2037米。

阿巴拉契亚山脉的突出特点是分布有多个宽谷，称为阿巴拉契亚大山谷，包括加拿大境内的圣劳伦斯河谷及美国境内的基塔廷河尼、坎伯兰、谢南多厄和田纳西等河谷。阿巴拉契亚山脉在东部沿海地带和大陆内部广袤的低地之间形成一道天然屏障，英国最初在北美的13个殖民地就建立在阿巴拉契亚山脉以东的北起新罕布什尔州、南至佐治亚州的狭长地带。