Sultan II. Abdülhamit’in mimarı D’Aronco tarafından Karaköy’de ahşap tekke olarak inşa edilen yapı yıkılınca, Merzifonlu Kara Mustafa Paşa kendi adını verdiği bir cami yaptırdı.
Üzerinden elli sene geçmeden yıkılan Merzifonlu Kara Mustafa Paşa Cami’nin tekrar inşa edilmesi için düğmeye basıldı.
17. yüzyılda yaptırılan cami zamanla metruk hale dönüşünce 1903 yılında Sultan Abdülhamid Han tarafından tekrar inşa edildi.
1956’da dönemin başbakanı Adnan Menderes tarafından başlatılan “İstanbul’da İmar Hareketi” kapsamında Karaköy Meydanı’ndaki tarihi caminin de yerinden sökülerek Kınalıada’da yeniden inşa edilmesine karar verildi.
Meydanın genişletilmesi için yerinden sökülen caminin parçaları tek tek numaralandırıldıktan sonra Kınalıada’ya götürülmek üzere bir gemiye bindirildi. Ancak geminin yan yattığı ve parçaların Boğaz’ın sularına gömüldüğü açıklandı.
Merzifonlu Kara Mustafa Paşa Cami’nin Boğaz’ın sularına gömülmeyen, gemide kalan iki parçası ise Kınalıada Cami’nin avlusunda ziyaretçilerin görüşüne sunuluyor.