تُعدُّ مقبرة باب الرحمة من الأماكن ذات القيمة التاريخية والأثرية المرتبطة بالتاريخ الإسلامي لمدينة القدس، حيث تضم بين جنباتها قبور العديد من الصحابة والمجاهدين الذين ساهموا في فتح القدس سواء على يد الخليفة عمر بن الخطاب من البيزنطيين أم على يد السلطان صلاح الدين الأيوبي من الصليبيِّين، حيث تحتوي على العديد من التراكيب الضريحية والشواهد الحجرية الأثرية، وتحتل مساحة كبيرة تمتد خارج السور الشرقي لمدينة القدس القديمة ملاصقة لأحد أكبر أبواب السور الشرقي للحرم القدسي الشريف [ر]، وهو «باب الرحمة» الذي يُعدّ أيضاً جزءاً من السور الشرقي لمدينة القدس القديمة، حيث بُني السور على الطرف العلوي من الهضبة الطبيعية، في حين تحتل مقبرة باب الرحمة كامل الجزء المتحدر منها وهي مطلة على ما يسمى «وادي جهنم» أو «قدرون».
