国子监作为中央官学最初起于隋朝。明朝有两个京都，因此在南京、北京分别设有国子监。设在南京的国子监被称为“南监”或“南雍”，设在北京的国子监则被称为“北监”或“北雍”。
北京国子监始建于元朝大德十年（公元1306年），是我国元、明、清三代国家管理教育的最高行政机关和国家设立的最高学府。可比剑桥、哈佛古老多了。
元代的国子监遗址，早已无任何建筑物可寻了，只留下一棵古柏、一棵老槐，据传是当时的首任“校长”许衡亲手种植的。现存的彝伦堂、大成殿以及林立的石碑，基本上都是明清留下来的。
走进国子监的大门，集贤门，映入眼帘的是一座三间四柱七楼庑殿顶式琉璃牌坊，正面额书“圜槁教译”，阴面为“学海节观”，彩画华美，是北京惟一不属于寺院的琉璃牌坊。
牌楼之里是一座十分庞大华丽的建筑，这就是辟雍。辟雍建于清乾隆四十九年（公元1784年），是国子监中最华丽的中心建筑，为北京“六大宫殿”之一。辟雍者，天子之学也。辟雍是我国现存的惟一的古代“学堂”，是清代帝王讲学之处。
彝伦堂位于辟雍以北，元代名为崇文阁，明代永乐年间予以重建并改名为彝伦堂。早年曾是皇帝讲学之处，兴建辟雍之后，则改为监内的藏书处。1956年10月，北京市图书馆迁入国子监，正式定名为首都图书馆，郭沫若先生亲题馆名。彝伦堂被改建为阅览室，六堂成为书库。随着首都图书馆新馆落成并投入使用，2003年首图迁出。
十三经刻石碑：共190座，原立于东西六堂，现珍藏于国子监与孔庙的夹道内。这些石经包括《周易》、《尚书》、《诗经》等十三部，计63万多字，为我国仅存的一部最完整的十三经刻石。该部石经由蒋衡书写刻于乾隆年间。
