Medrese Cami, aslında bir medrese olarak inşa edilmiş ve daha sonra çeşitli dönemlerde farklı amaçlarla kullanılmıştır. İnşa kitabesine göre, cami 1170 yılında Çeteci Abdullah Paşa tarafından yaptırılmıştır. Abdullah Paşa, Osmanlı döneminde beş kez Diyarbakır Valiliği görevini yapmıştır ve "Çeteci" lakabını, Hac ibadetinin düzenli ve kurallara uygun biçimde yerine getirilmesi için urban eşkıyalarına karşı başarılı mücadelesiyle kazanmıştır.

Abdullah Paşa, hattat, şair, alim ve cömert biri olarak bilinmektedir. 1760 yılında vefat etmiş ve Dağ Kapı dışındaki bir mezarlığa defnedilmiştir. Ancak, bu mezarlık kaldırıldığı için mezar yeri günümüzde bilinmemektedir.

Cami, Abdülhamid döneminde bir süre Çermik Rüştiye Mektebi olarak kullanılmış, daha sonra bazı kısımları yıkılmış ve hücrelerinden bazıları dükkân olarak kullanılmaya başlanmıştır. 1974 yılında ise ilçenin Kur'an Kursu binası olarak da kullanılmıştır. Daha sonra Çermik Cami Yaptırma Derneği tarafından onarılan medresenin tamamı bugün cami olarak kullanılmaktadır.

Cami genel hatlarıyla dikdörtgen bir plana sahiptir ve revaklar ile merkezi avlunun üç kenarına sıralanmış hücreler bulunmaktadır. Yakın zamanda avlusu düzenlenmiş ve revaklar ile avluya bakan yüzünde onarımlar ve değişiklikler yapılmıştır.

Medrese Camii'nin arsa alanı 600 metrekare, cami alanı 450 metrekare ve cemaat kapasitesi 1000 kişidir. Cami, Vakıflar Genel Müdürlüğü veritabanında "Çarşı (Medrese) Camii" adı ve 21 02.01/03 envanter numarası ile "Türkiye Kültür Mirasları" arasında kayıtlıdır.