汉代为国家最高学府；唐宋为最高学府之一，位居国子学之后。西周已有太学之名。《大戴礼记·保傅》有“帝入太学，承师问道”之述。西周的太学，亦称大学，天子和诸侯均设之。“大学在郊，天子曰辟雍，诸侯曰泮宫”。汉武帝采纳董仲舒建议，于建元五年（前136）“置五经博士”；元朔五年（前124）“为博士官置弟子五十人”。博士从备朝廷顾问之官转化为以教授为主要职能的学官，标志着太学正式设立，博士弟子即是太学生。由此开始“兴太学”“以养天下之士”的历史。西汉太学在长安西北七里，“有市有狱”。王莽主政时，“为学者筑舍万区，作市常满仓，制度甚盛”。东汉太学发展较快，规模较大。顺帝时，“乃更脩黉宇，凡所造构二百四十房，千八百五十室”。质帝时，“游学增盛，至三万余生”。魏晋南北朝时，政局纷乱，政权更替频繁，太学时兴时废。各朝或沿设太学，如曹魏；或太学与国子学并设，如两晋；或只设国子学，如宋、齐、梁、陈。太学已不似汉代为中央政府唯一最高学府。及至唐代，国子学、太学、四门学同属国子监辖下，规模完备，盛极一时。唐太宗贞观六年（632），“尽召天下惇师老德以为学官”，“广学舍千二百区，三学益生员”，“鼓笥踵堂者凡八千余人”。宋代因之。元、明、清三代不设太学，只设国子监，兼为学校与教育管理机构。

太学的教师，主要是博士。战国、秦朝已有博士之官，用来管理书籍，备顾问。以对弟子授业为博士的主要职责，从西汉开始。作为教官的博士，除了讲学授徒外，还要奉使议政，试贤举能。各朝对博士的要求很高。汉代规定须熟习经史，“明于古今，温故知新，通达国体”的一代鸿儒巨贤，方能充当博士。这些博士，一般是通过征召、荐举、选试、以诸科进、他官迁调等途径选取的。北朝的北齐、唐、宋等朝代的太学，还设有助教协助博士施教。北齐孝昭帝皇建元年（560），诏置“太学博士二人，助教二十人，太学生二百人”。至于博士助教的数量，历代不一，多寡不等。博士待遇优厚，汉初博士定为400石，宣帝时增至600石。东汉还为博士建筑宿舍，“光武初兴，愍其荒废，起太学博士舍”。政府对博士常有酒肉束帛劳赐。《东观汉记》和《汉书·王式传》分别有“每腊诏，赐博士羊人一头”“共持酒肉劳式”的记载。一些朝代还为博士制造一定的服装，“衣博士衣而不冠”。

太学的学生，历代称谓不一，或称“博士弟子”，或唤“太学生”“诸生”等。太学生入学的身份资格，历代不尽相同，唐比宋要求高些严些。唐代规定太学生限文武官员五品以上子孙、职事官五品的期亲，或三品的曾孙，以及勋官三品以上有封之子。宋代太学生须文武官八品以下的子弟及庶民之俊异者。至于录取太学生的具体条件和办法手续，各朝亦有所不同。汉代太学生选补法有两种：一是直接由太常挑选18岁以上的仪状端正者；二是由郡国县官选送“好文学，敬长上，肃政教，顺乡里，出入不悖所闻者”。北宋徽宗崇宁时，由各州州学每3年选送一次。南宋孝宗时，又实行混补（每3年科举完后，所有落第举人允许应试，取其程度合格者补入太学）和待补（以后因应试者过多，乃加限制，凡诸路解试终场人，挑选百分之六送往太学补试）二法，择优录取。唐代规定太学生初入学时要行“束脩之礼”：“置束帛一篚、酒一壶、脩一案，为束脩之礼”；“其束脩三分入博士，二分助教”。唐宋时期太学生都可在学居住，由朝廷发给膏火。汉代生徒还有统一的学服，“俱曳长裙，游息帝学”。

太学的主要教材是经史，授“孔子之术，六艺之文”。以儒家“五经”作为基本教材。为了避免因抄写经籍错漏而引起的纷争，东汉熹平四年（175），灵帝下诏诸儒校正“五经”文字，刻石于太学门外。这个“熹平石经”，成为当时官定的太学标准教材。唐代太学生要分修“大经”（《礼记》《春秋左氏传》）、“中经”（《诗》《周礼》《仪礼》）和“小经”（《易》《尚书》《春秋公羊传》《春秋穀梁传》），兼习《论语》《孝经》及时务策。宋初教习“五经”，熙宁变法令习《三经新义》，南宋又复以“五经”为教材，之后又明确增加“四书”。教授方法则多取自修、讲授、讨论、解惑等。汉代太学教学，比较注重守师法家法和记诵，普遍采用“大都授”“转相授受”等教学方法。

太学修业年限无统一规定，各朝学制亦不相同。但各都有一套考试制度、放假制度和管理制度。西汉每岁一试，“设科射策”，试而优则仕，不及格者令其退学。东汉则以通经多寡来决定取舍任职。有些弟子屡试屡败，“结童入学，白首空归”。唐代有“岁考”“毕业考”，以成绩优劣分别给予升降。宋代王安石改革太学制度，实行“三舍法”，将平时学业表现与考试成绩结合起来考查，逐级递升，择优毕业、授官。各朝太学放假制度不一，唐代太学放假分短期和长期两种。短期假称“旬假”，每10日放假1天。长期假每年放两次，5月放“田假”，9月放“授衣假”。各以1个月为限，允许学生回籍探亲。离家较远或家有婚丧大故者，可酌情延长假期。延长后仍过期不归者，即令其退学。历代统治者都很注意在政治上、组织上、思想上和行动上加强对太学的管理和统制。有些朝代的天子还定期省视太学，如汉光武帝、明帝、安帝、灵帝、献帝以及唐太宗等，都“数临幸观释菜”，参加“太学行礼”，“临观其仪”，诏令博士宣讲经义，赏赐束帛。汉代还在中央政府以太常作为兼管教育的长官，职司礼仪、选试博士、宗庙等事务。唐宋两朝设教育行政机关国子监，总辖太学等诸学。唐代规定“凡学六，皆隶于国子监”。宋代亦“凡学，皆隶国子监”。为了进一步钳制和束缚学生的思想行为，历代太学都制施各种规章制度。宋代太学颁行“学规”，订出博士、助教、正录、学谕的职责，严禁各种“离经叛道”的思想行为。

太学生在历史上曾屡次发生反对宦官专权、反对投降卖国的事件。西汉哀帝时鲍宣为谏议大夫、司隶，为人耿直，敢于揭露外戚和宦官行径，获罪下狱，太学生王咸率领千余同舍生前去营救，方得免一死。东汉以郭泰、贾彪为首的太学生，结合当时为人耿直的高官陈蕃、李膺等讽议朝政，抨击宦官，因而受到宦官疯狂镇压，太学生被捕千余人，是为党锢之祸。北宋以陈东为首的太学生，在靖康元年（1126）金兵包围汴京，爱国将领李纲等被罢职，朝廷准备屈辱求和的关键时刻，挺身而出，集合太学生及军民，在皇宫门外请愿，上书痛斥卖国求荣的李邦彦、张邦昌等人为“社稷之贼”，请斩贼类，“复纲旧职”；“诸军民从者数万”，“喧呼震地”，在军民的强大压力下，宋钦宗赵桓被迫恢复李纲等人职务，并击退了金人入侵。

太学在培养各种杰出人才，繁荣学术文化等方面，都创造和积累了宝贵的经验。