宗教文化学者，一般将基于神话与巫术的早期信仰与祭祀称为初级宗教，或称前宗教、准宗教。

随着人类社会发展，渐次兴起的一些具有某种终极信仰目标、内部有严密组织僧团及世代相沿宗教经典，且有严格戒律的信仰团体及仪式的信仰体系，如基督教、伊斯兰教、佛教、道教、印度教等，则被纳入较为严格意义上的宗教范畴。

数千年前，古代埃及、亚述文化中已有巨大的神庙与山岳台。古希腊、罗马神殿，也成为欧洲建筑史上浓重的一笔。随着基督教的兴起，由其衍生而来的天主教、东正教与基督教新教在世界范围内建造了无数的教堂。自公元6世纪兴起的伊斯兰教，也将清真寺从阿拉伯半岛逐渐延伸到北非、西班牙、巴尔干、西亚、中亚、东南亚和中国这一广大地域范围。

尽管中国自古就有祭祀自然神与祖先神的明堂、祠畤与坛台，并将这种具有前宗教性质祭祀建筑的建造一直延续到晚清，但真正意义上的中国宗教建筑是伴随佛教东传兴起的。第一座汉传佛教寺院，是建于公元初的东汉洛阳白马寺。随着佛教弘传，南北朝时期的大江南北不仅佛寺林立，还开凿了大量石窟寺。敦煌石窟、云冈石窟、龙门石窟、麦积山石窟、响堂山石窟、炳灵寺石窟等都是在南北朝时期陆续开凿创立的。

南北朝时期，佛寺营造达到中国建筑史上第一个高潮。从唐人杜牧“南朝四百八十寺，多少楼台烟雨中”的感叹可以略窥当年建康城佛寺建筑盛况。据《洛阳伽蓝记》记载，北魏时，洛阳城内外有佛教寺院上千座之多。其中洛阳永宁寺塔，塔刹底距地面高度达49丈，折合今尺约136米，加上塔刹，总高约150米。堪称木构建筑历史之最。

隋唐时代，中国佛教趋于鼎盛，佛寺数量众多，寺院规模宏大。长安大兴善寺占地规模有一坊之大。长安章敬寺，殿宇总4130间，分48院。同时代成都大慈寺，总96院，寺内建筑8524间。佛教四大名山五台、峨眉、九华与普陀的最初影响力，正是自北魏、唐及五代渐次生成的。现存最为古老的木构佛教建筑，是五台山南禅寺大殿、佛光寺大殿及平顺天台庵大殿。正定开元寺钟楼保存了部分晚唐时期结构，是最早的木构楼阁之一。

宋、辽、金时期，佛教及建筑进入一个较为成熟与稳定的发展期。寺院规模渐趋适中，建筑规制也渐明晰。随着佛教禅宗兴起，佛寺渐渐有了禅、律、教寺的区别。南方地区还出现“五山十刹”寺院等级划分。现存这一时期佛教建筑以北方辽、金时代遗存为多，如单檐九开间义县奉国寺大殿与大同华严寺上寺大殿。现存最早木构楼阁蓟县独乐寺观音阁，以及现存最高木塔应县佛宫寺释迦塔都是辽代遗构。北宋佛教建筑遗构，较为重要的是正定隆兴寺摩尼殿、转轮藏殿与慈氏阁，以及河南登封少林寺初祖庵大殿。

现存最早的砖构密檐塔嵩岳寺塔，创于北魏。隋唐佛塔，如山东历城神通寺四门塔、西安兴教寺玄奘塔、慈恩寺大雁塔、荐福寺小雁塔、登封法王寺塔等，是平面为方形的单层塔、多层楼阁式，或多层密檐式塔。现存最早八角形平面塔为砖筑单檐的登封净藏禅师塔。

五代时的南京栖霞寺舍利塔及杭州闸口白塔则为创建较早的八角形平面多层楼阁式石塔。宋、辽、金时代，佛塔建筑遗存丰富，造型也十分多样，如砖筑楼阁式苏州虎丘云岩寺塔、定州开元寺塔、砖筑密檐式北京天宁寺塔，以及采用全琉璃饰面的砖筑楼阁式开封佑国寺塔和造型独特的正定广惠寺华塔等。

宋代南方佛塔，多采用砖心木檐式做法，其结构稳固，造型轻盈，是中国古代匠师的独特创造。现存实例，如苏州报恩寺塔、湖州飞英塔、上海龙华寺塔、广州六榕寺花塔等。泉州开元寺双塔、莆田广化寺塔是南方石构佛塔的典型。

元、明、清时代，佛教建筑依然十分活跃。浙江武义延福寺大殿、金华天宁寺大殿是保存完好的元代木构殿堂。明清时，寺院在全国各地都有遗存，北京智化寺、五台山显通寺、普陀山法雨寺等是保存较为完整的明清佛寺。这一时期的佛塔建筑，以明代琉璃塔典型实例——洪洞广胜寺飞虹塔最为精美。

藏传佛教自公元8世纪萌生于西藏地区，至13世纪渐趋兴盛，并影响到中原及蒙古地区。现存最早藏传佛教寺院是创建于公元8世纪的西藏扎囊县桑耶寺。拉萨大昭寺、哲蚌寺、日喀则札什伦布寺、江孜白居寺、青海西宁塔尔寺、乐都瞿昙寺、甘肃夏河拉卜楞寺、北京雍和宫、包头五当召及承德外八庙等都是保存完好的明清藏传佛教寺院。其中白居寺塔是一座造型独特的塔殿式建筑。

藏传佛教寺院中的佛塔，进一步丰富了古代佛塔造型。北京妙应寺塔是现存最早的喇嘛塔。北京居庸关云台是元代过街塔重要遗存。北京香山碧云寺塔、真觉寺塔、黄寺清净化域塔，以及呼和浩特慈灯寺金刚舍利塔、昆明官渡古镇金刚宝座塔等是明清时代金刚宝座式佛塔重要遗存。

明清佛教寺院单体木构建筑以承德普宁寺大乘阁规模最为宏大。而承德普乐寺以在巨大曼荼罗式台座上耸立的重檐圆顶造型，显现了与北京天坛祈年殿十分接近的造型艺术效果。青海乐都瞿昙寺隆国殿是一座保存较好的明代七开间木构重檐大殿。南京灵谷寺无梁殿、五台显通寺无量殿、北京宝相寺旭华阁则是明清砖筑拱券式结构佛殿的重要遗存。

道教是在东汉时代太平道与五斗米道基础上渐次兴起的，其建筑发展也有十分悠久历史。道教宫观在建筑形式与空间组织上多少受到佛寺建筑影响。位于山西芮城的永乐宫是现存较早的道教宫观。永乐宫诸殿堂内的道教壁画是元代绘画艺术的珍品。

北京白云观、陕西佳县白云观，以及江西三清山、龙虎山道教宫观的历史也十分悠久，现存建筑多为明清遗构。湖北武当山道教建筑群创于明永乐（1403～1424）年间。山上的紫霄宫、南岩宫等建筑奇伟、形势险要，反映了道教建筑独特的追求。已有600年历史的武当山金顶铜殿是中国古代金属建筑的至宝。

伊斯兰教传入中国历史十分悠久。现存实例中，建于元代的泉州清净寺、广州怀圣寺光塔等是具有阿拉伯风格的早期建筑。清净寺内的建筑遗存包括阿拉伯风格的寺门、寺内的奉天坛与明善堂。奉天坛原为穆斯林举行宗教活动的礼拜堂，其上原有屋顶，明代时屋顶已坍塌，现仅存四周围绕的石砌墙体及地面上残存的花岗岩柱础。其内西墙正中仍然可见拱形璧龛，龛内有保存尚好的石刻古阿拉伯文《古兰经》。

中原地区，清真寺多是在保持清真寺空间特征情况下采用中国本土建筑形式，如明代所创西安大清真寺、宁夏同心清真寺、北京牛街清真寺、山东临清清真寺等。新疆地区的清真寺或玛扎体现了维吾尔民族建筑风格，如建于14世纪的霍城吐虎鲁克玛扎。初创于明代的喀什艾提尕尔清真寺则为规模较为宏大的清真寺建筑群。吐鲁番苏公塔及清真寺是一座主要以土坯砌筑的精美维吾尔风格建筑群。

据西安碑林博物馆藏《大秦景教流行中国碑》记载，公元8世纪，长安曾建有基督教聂斯托利派大秦寺。元代中原一些地区也建有基督教背景的十字寺。直至明末，耶稣会传教士利玛窦才将基督教真正传入中国。位于北京宣武门的天主教南堂是利玛窦于1605年始创，又于1650年由德国耶稣会士汤若望加以扩建。

位于北京东城区的天主教东堂是由明末清初来华的传教士初创的，教堂内曾保存有意大利传教士郎世宁的多幅圣像画，现存建筑为1904年重建。此外，各地还保留一些明清时代所建教堂，如清光绪（1875～1908）年间所建的具有哥特风格的上海徐家汇天主堂等。

康熙四年（1665），一支沙俄军队侵占中国黑龙江左岸雅克萨地区，同时，其随军修士开始在这里建造东正教堂。哈尔滨是中国境内东正教堂最为集中的城市，其最早的东正教教堂是1898年、1899年先后建造的两座圣尼古拉教堂。之后30年间陆续建造了20座东正教堂。大连、旅顺等地也同时建造了多座东正教堂。1907年建造的哈尔滨圣索菲亚大教堂是一座将拜占廷与俄罗斯风格巧妙结合的典型东正教教堂。

第一位来华开展传教活动的基督教新教传教士是来自英国新教伦敦会的马礼逊。之后，美国人裨治文、卫三畏、伯驾等，以及一些英格兰、苏格兰新教传教士也先后来华。

道光二十三年（1843），美北浸礼会医学传教士玛高温到中国宁波开展传教活动，并在当地建立了一家医院。随着新教传教活动在中国逐步展开，新教传教士在建立医院、报社、印刷厂、图书馆等文化设施的同时，也积极建立新教教堂。新教在中国建立的教堂称基督堂，又称礼拜堂。

中国境内基督新教教堂建立时间相对较晚。北京基督教会崇文门堂是一座有百年历史的新教礼拜堂。上海新教教堂有闸北堂、清心堂、沪西礼拜堂等。广州新教教堂有基督教东山堂、芳村堂、河南堂、锡安堂、光孝堂、沙面堂等。厦门有三一堂、竹树堂、新街堂等基督新教教堂。

在中国历史上一度存在并曾建有一些相应建筑的还有祆教与摩尼教。

祆教，又称火祆教、拜火教，原名为琐罗亚斯德教，是从古波斯传入的一种宗教。

唐长安曾有4座火祆寺，洛阳有2座火祆寺。明代以来，随着祆教渐趋衰亡，现存古代建筑中与祆教有关的建筑物几乎无存。实例遗存中仅山西介休祆神楼似与祆教有所关联。据说这座木构楼阁是北宋文彦博所创。现存建筑为清康熙（1662～1722）年间重建。

江苏镇江有一条火星庙巷，其内曾有一座火星庙。庙内尚有部分清代建筑遗存。这座火星庙当是在古代镇江祆教寺院基础上沿袭而来的一座地方信仰性庙宇。除镇江外，江苏苏州、泰州，山西霍州亦存有火星庙。

摩尼教，创于公元3世纪波斯萨珊王朝。其创立之时，拜火教、基督教及佛教已广泛传播，其创立者希望将古波斯拜火教、基督教与佛教糅为一体，形成一种新宗教。在古代中国，摩尼教又被称为末尼教、明尊教、明教等。

唐末武宗灭法，明教与佛教一样遭到重创。其后五代、宋、元、明，明教中渐渐混入道教、佛教及后来的白莲教等成分，成为农民起义的一种工具。

河北正定隆兴寺主殿，称“摩尼殿”，是一座大型北宋木构遗存。其殿名可能多少受当时摩尼教流行影响。现存古建筑中似尚存一座规模很小的摩尼教寺庵——福建泉州草庵寺，其中供奉的光明神造像疑源自古摩尼教，但其信仰及仪式已不再延续摩尼教，似更接近某种地方信仰模式。