Mardin'deki mimari geleneği sosyolojik, etnolojik açıdan apayrı özellikler gösteren bir mimari tarzıdır. Mardin'deki yapıları, tarihi donemler içerisinde ve genel özellikleri acısından incelemek gerekir. Mardin'in bu kıymetli tarihi hazineleri olan görkemli yapılarımızı, kale, kaledeki yapılar, savunma tesisleri, şehirdeki yapılar olarak da, Camiiler, Mescitler, Külliye kalıntıları, Medreseler, Hamam, Maristan, Çeşme, Zaviyeler, Türbeler, Kervansaraylar, Kayseriyye, Carsılar, Köşkler, Kiliseler ve Manastırlar olarak sırasıyla inceleyelim.

Kaledeki Yapılar: Mardin'in etrafını bir sur'un çepeçevre çevrelediği her ne kadar söylenmekte ise de, böyle bir kalıntıya tesadüf edilmemiştir. Ancak şehrin Savur Kapı, Diyarbakır Kapı gibi tas bir tahkimat olması gereken bir savunma sistemi'nin varlığını anımsatır.

Kale: Yüksekliği yaklaşık 1200 metre, üstü hafif düzlük, kayalık bir tepedir. en dar yeri 30 metre, uzunluğu yaklaşık olarak 800 metredir. Mardin Kalesi'nin yüksek ve sarp yerleri'nin bazı açık kalan kısımları sonrada örülerek duvar haline getirilmiştir. Kale, daralan yerinden bir tek çıkışı olan müstahkem bir yerdir.

Kale Camii: Yıkık bir kubbe ile yıkık duvarlardan başka bir kısmı kalmayan Camii'nin, zamanında dikkatli bir işçilik sarf edilerek inşa edildiği belirtilmektedir. ancak bu camii'nin geniş bir müştemilata sahip olduğu ve büyük bir olasılıkla hem ibadet, hem sosyal işler için de kullanıldığı izlenimini vermektedir.

Hatuniyye Medresesi: Gül mahallesindedir. sade bir bölümü ibadethane olarak kullanılmakta, kalan kısımlar aynen muhafaza edilmektedir. Muhtelif zamanlarda bu yapı ile fazla oynadığı için özelliğini yitirmiş bina'nın esas planı yok olmuştur. Bu Medrese'nin bir bölümü nde iki sanduka bulunmaktadır.

Cihangir Bey Zaviyesi: Kasımiye Medresesi'nin batısında şehir dışındadır. Yıkılmaya terk edilmiştir. Yazılı belgelerde 13.yüzyılda 'Mardin haricinde vaki cihangiriyye' Medresesi şeklinde geçen yapı'nın bu olduğu tahmin edilmektedir.

Seyh Hamit Turbeleri: Mardin'in doğusunda Meydan başından Savur'a giden yol üzerinde, sağ tarafta bulunmaktadır. Dört türbe ve bir mescidin birleşmesinden meydana gelmiştir.

Radviyye Hamamı: Sitti Radviyye (Hatuniye) Medresesi'nin güneyindedir. Sitti Radviyye Medresesi'nin yapıldığı 1206 tarihinde de, bu Hamamın yapıldığı Medrese'nin bir kitabesinden öğrenilmiştir.

Deyr-il Za'faran Manastırı: Bu Manastır, ceylan derisi üzerine yazılmış ve dünya da bir eşi'nin daha bulunmadığı belirtilen İNCİL'i ile ünlüdür. Bu İNCİL Süryani (İstrengeli) yazısı ile yazılmıştır. Yaklaşık olarak bu mabedin 1600 yıllık bir maziye sahip olduğu kaydedilmektedir. MS. 4.asır'a ait mozaikler, mihraplar aynen muhafaza edilmektedir. İlk olarak, Rahip Mar Şleymun adı ile bilinen Manastır'ın kurucuları'nın birkaç kişi olabileceğini ve bunlardan birisi'nin de İNCİL'in müjdecilerinden Mar Evgi'nin öğrencisi olan Mar Şleymun olduğu bilinmektedir. Bu Manastır'ın MS. (493-518) yılları arasında da Manastırın kubbeli kısmını Şüfnioğulları Süryani Teodosu Teodori Mimar-Kardeşler yapmışlardır. 

Meryem Ana Kilisesi: Şar mahallesinde olan bu Kilise'nin MS. (1280) yılında Metropolit Antum Simber tarafından inşa edildiği bilinmektedir.

Mar Yusuf Kilisesi: MS. (1885) yılında Usept Kazasyan ve ermeni Katolik cemaati tarafından inşa ettirilen Kilise, Mardin Şar mahallesindedir.