南京夫子庙的缘起可以追溯到东晋时期。据史料记载，南京夫子庙最初是作为一处文教机构而存在的。东晋成帝司马衍咸康三年（337年），当时的丞相王导提出“治国以培育人才为重”的建议，于是便在秦淮河南岸建立了太学，这是南京夫子庙的雏形。

随着时间的推移，到了北宋仁宗景祐元年（1034年），南京夫子庙经历了一次重要的变革。当时，朝廷将东晋学宫迁至秦淮河北岸的现址，并在学宫之前新建了一座庙宇，专门用来供奉和祭祀孔子，这就是夫子庙的起源。夫子庙的建立，旨在弘扬儒家文化，传承历史文脉，同时也为士子们提供了一个学习和交流的平台。

夫子庙在历史上历经多次毁坏与重建。南宋建炎年间，夫子庙因战火被毁，后于绍兴年间重建。明清时期，由于乡试和会试的举办，夫子庙及其周边地区成为南京的文教中心，愈发繁荣。然而，在清朝咸丰年间、抗日战争时期和文革时期，夫子庙的主体建筑又遭到了严重破坏。

1984年，南京市人民政府为了保护文化遗产，聘请专家进行研究规划，并拨款进行重建。经过20余年的修缮，夫子庙恢复了大成殿、明德堂、尊经阁、江南贡院、乌衣巷等20余处建筑，成为了一座集明清风格与庙市街景特色于一体的古建筑群。

如今，南京夫子庙不仅是南京历史文化的重要象征，也是中国儒家文化的代表性建筑之一，每年吸引着众多游客前来参观游览。