据近代考古发掘，开封至少在5 000年前即有人类活动。夏朝曾在今开封一带建都，称为“老丘”。春秋时期，郑庄公在今开封南之朱仙镇建粮仓，定名“启封”。公元前361年，魏惠王在启封建都，称大梁。秦、西汉置浚仪县，治所在今开封市。汉初，改启封为开封，以避景帝刘启讳。南北朝时期，东魏天平初（约534）置梁州，今开封为州治。北周大象元年（579），因城临汴水而改名汴州。唐代亦称汴州，仅玄宗时一度更名陈留郡。五代时，梁、晋、汉、周均定都于此，先后称开封府、东都、东京。960年，赵匡胤（960～976年在位）建立北宋，定都开封，称东京，亦称汴梁、汴京等。1127年，金灭北宋，称汴京；1153年，改汴京为南京；1161年，金宣宗（1213～1223年在位）贞祐二年（1214）迁都南京开封府。元灭金后，初设南京路，后改汴梁路。明初改开封府。明、清、中华民国时期，开封均为河南省会。中华人民共和国建立后，初为河南省会，1954年省会迁郑州市，开封为省直辖市。

开封铁塔

清明上河图（局部）

古都开封府　绘画

北宋时期，开封成为中印文化交流的中心地之一。据《宋史·天竺传》记载：“乾德三年，沧州僧道圆自西域还……太祖召问所历山川道里，一一能记。四年，僧行勤等一百五十七人诣阙上言，愿至西域求佛书，许之。以其所历甘、沙、伊、肃等州，焉耆、龟兹、于阗、割禄等国，又历布路沙、加湿弥罗等国，并诏谕其国令人引导之。开宝后，天竺僧持梵夹来献者不绝。”说明当时中国人对去印度的陆上路线很熟悉，已经有一个僧人自发、政府出面组织的157人庞大僧团去印度取经。其后，该僧团的僧人如行勤、光远、法遇、辞澣、继业、怀问等陆续回到开封，向朝廷汇报。而印度来华僧人也很多，如天息灾、施护、法天等被安置于朝廷在京城特建的译经院从事佛经翻译。天息灾等人还为宋朝培养了一批精通梵文的学者和翻译家。开封的相国寺在宋代被封为皇家寺院，盛极一时，许多印度来的僧人都曾在这里居住过。

《宋史·注辇传》记载了北宋与注辇的友好交往。大中祥符八年（1015）注辇国使节娑里三文来华的记载提供了一条宝贵的中印海上交通史料：“三文离本国，舟行七十七昼夜，历那勿丹山、娑里、西兰山至占宾国。又行六十一昼夜，历伊麻罗里山至古罗国。国有古罗山，因名焉。又行七十一昼夜，历加八山、占不牢山、舟宝龙山至三佛齐国。又行十八昼夜，度蛮山水口，历天竺山，至宾头狼山，望东西王母冢，距舟所将百里。又行二十昼夜，度羊山、九星山至广州之琵琶洲。”说明宋代从印度东南海岸到广州的通道十分畅通，已成为当时中印文化交流的主要通道。南印度来的使者和商人则由广州北上开封，与北宋朝廷进行朝贡贸易。