公元前124年，后汉武帝创建了我国第一所高等教育机构太学，共有弟子50人，主要传授儒家经典。
大学正式出现于西周，把学校分为大学和小学两类，统称国学，教育内容为礼、乐、射、御、书、数六艺，其中大学的教育内容主要以礼、乐、射、御为主，但王城和诸侯国所设的大学称谓均不同，有东序、成均、上痒等称谓，后凡天子所设的大学统称国学，诸侯所设的大学叫泮宫。西周时，还有一种叫太学的教育，是国家的最高学府。
现代大学泛指实施高等教育的学校，指提供教学和研究条件和授权颁发学位的高等教育组织，包括大学、学院、高等专科学校、高等职业技术学院等。