Külliyenin ilk inşa edilen kısmı türbedir. Bu türbe adını, Hz. Muhammed'i Medine'ye ilk geldiğinde evinde misafir eden Hz. Ebu Eyüb el-Ensari isimli sahabeden almıştır. Halk arasında "Eyüp Sultan" olarak adlandırılan bu kişi, Emevilerin 668-669'daki İstanbul kuşatmasına katılarak bu savaşta şehit olmuştur. Mezarının bulunduğu yeri İstanbul'un fethinden sonra Fatih Sultan Mehmed'in hocası Akşemseddin rüyasında görmüş ve buraya türbesi yaptırılmıştır. 1459 yılında ise yine Fatih Sultan Mehmed tarafından türbenin yanına camii, medrese, imaret ve hamam yaptırılmış böylece külliye oluşmuştur.
Yaptırılan bu ilk camii 1766 yılındaki depremde çok büyük zarar görmüş ve tamir edilemeyeceği anlaşılınca, Sultan III. Selim tarafından 1798'de tamamen yıktırılarak yerine yeni bir camii yaptırılmıştır. Bu yeni camii 1800 yılında tamamlanmış ve padişahın da katıldığı bir törenle ibadete açılmıştır. Günümüze kadar ulaşmayı başaran bu ikinci camidir. Camiinin 17.50 metre çapında bir ana kubbesi ve oldukça uzun iki minaresi vardır. Camii iç süslemeleri oldukça sadedir. Bu açıdan 18. yüzyıl camilerinden farklıdır. Ama mihrabındaki altın yaldızla kaplanmış süslemeleri dikkat çekicidir.
