Harput Kalesinin doğusunda yer almaktadır. Batı duvarını kalenin kaya kütleleri teşkil ettiğinden kilise, kalenin kayalıkları içine gömülmüş gibidir. Anadolu’nun en eski mabetlerinden biri olan Meryem Ana Kilisesi, Kızıl Kilise, Süryani Kilisesi ve Yakubi Kilisesi adlarıyla da anılmaktadır. M.S 179 yıllarında inşa edildiği sanılan binanın, ilk olarak kaledeki putperestler tarafından putların saklanması için kullanıldığı, Yakubi Hiristiyanları’nın daha sonra burayı kiliseye çevirmiş oldukları düşünülüyor.
Yaklaşık 20X8 m. boyutlarındaki kilise Harput’un doğusunda ve kalenin kuzeydoğu köşesine yakın, yüksek bir kayanın üzerinde bulunmaktadır. Kilise dört bölümden oluşmaktadır. Birinci bölümde yer alan lahit ve üzerindeki Süryanice kitabesiyle yekpare taş kapağı, ikinci bölümde;dilek taşı duvarı şeklinde, dilek tutularak üzerine küçük taşların yapıştırıldığı duvar dikkat çekicidir.
Ayin bölümü olan üçüncü bölüm ile simetrik iki odadan oluşan dördüncü bölüm kilisenin diğer kısımları mevcuttur. Batı yönündeki duvarı tümüyle kaya olan Meryem Ana Kilisesi, günümüze kadar ayakta kalmayı başarabilmiş en önemli antik kiliselerimizden ve sadece ülkemizin değil dünyanın önemli kültür miraslarından birisidir. Bu kilise, M.S. 1135, 1179 ve 1262 yıllarında onarım görmüştür