大学の定義によるが、単に高等教育機関という意味でとらえれば、その歴史は、
紀元前7世紀創設のタキシラの僧院。 世界遺産の遺跡がある現在のイスラマバード北西、パキスタンのタキシラにあったが、西暦6世紀に街と共に破壊された。
紀元前5世紀設立のナーランダ大学。インドのナーランダに所在。
988年創設(イスラム神学)アル=アズハル大学(966年設立のモスクに由来)。 エジプトのカイロに所在。
が最古のものとなる。
近代西欧語の大学(英:university)という意味でとらえれば、その歴史は、イタリアの"Alma Mater Studiorum" (1088年設立、現在のボローニャ大学)に始まる。もともとはラテン語の "universitas" (ウニベルジタス)を起源とし、教師のギルドと学生のギルドが1つにまとまった組合団体という意味であった。
紀元前7世紀設立の タキシラの僧院では卒業生に学位にあたるものを与え、紀元前5世紀設立のナーランダ大学でも学位にあたるものの授与のほかに、今の大学院にあたるコースもおこなっていた。
10世紀設立の アル=アズハル大学はカイロで多様な大学院コースをおこなっており、最初の成熟した大学とみなされている。
古代インドの タキシラ、ナーランダ、ヴィクラマシラー、 カーンチプラム は学問の中心地として存在し、特に ナーランダ は仏教の学問研究で有名で、中国、東アジア、中央アジア、東南アジア、ペルシア、中東からも人々が学びに来ていた。
ギリシャの哲学者プラトンが紀元前387年にアテネ近郊アカデモスの木立に作ったアカデメイアでは、哲学、数学、体育を教え、ヒッポクラテスの故郷 コス島 には医学校、ロードス島には哲学の学校があった、他の古代の学問研究機関としてはアレクサンドリアの博物館・図書館がある
中国の古代の伝説では、『漢書』儒林伝では「夏は校と曰い、殷に庠と曰い、周に序と曰う」とある。周朝では辟雍と呼んだともいう。しかし、高等教育機関の名として大学の名称が周のものとして伝えられるものに由来することが有名である。礼記王制「天子命之教然後為學。小學在公宮南之左、大學在郊。天子曰辟癰、諸侯曰頖宮」