Halife Hz. Ömer döneminde Bizans topraklarında Müslüman Arapların başlattığı fetih hareketleri kuzey Mezopotamya'ya ulaşmıştır. 639 yılında Diyarbakır'a ulaşan Müslüman Araplar beş aylık bir kuşatmadan sonra şehri ele geçirmiştir. Diyarbakır'ın fethinin ardından ilk olarak ibadet ihtiyacının karşılanması için MarToma kilisesi Ulu Camiye dönüştürülmüştür. Son halife Hz. Ali'nin 661'de ölümü üzerine halifelik Emevilere geçmiş ve Diyarbakır 750 ye ka-dar Emevi hakimiyetinde kalmıştır.
750-869 yılları arasında Abbasi hakimiyetinde olan Diyarbakır sırasıyla Şeyhoğulları (869-899) Hamdaniler (930-980) Büveyho- ğulları (980-984) ve Mervaniler (984-1085) yönetimine girmiştir. Mervaniler hakimiyetinde Diyarbakırda imar faaliyetleri yoğunluk kazanmış ve tahribata uğrayan Diyarbakır surları, kalesi ve on gözlü Dicle köprüsü onarım görmüştür. 1085 yılında Diyarbakır, Mervani hakimiyetine son veren Selçukluların eline geçmiştir. 1093 yılına kadar Büyük Selçuklu idaresinde kalan Diyarbakır'a sırasıyla Suriye Selçukluları (1093-1097) İnanoğulları (1097-1142), Nisanoğulları (1142-1183) ve Artukoğulları (1183-1232) egemen olmuştur.