فطلب حضوره إلى القسطنطينية ليعالج تحت رعاية السلطان وسافر إلى هناك ونصحه الأطباء المختصون بإجراء عملية إزالة الماء من العين وكانت العملية في ذلك الزمان من العمليات الخطيرة ولكن الشيخ رغب عن إجراء العملية وعاد إلى مكة المكرمة ولكن المرض اشتد في عينيه فأجريت له العملية في مكة ولم تكلل بالنجاح وأصبح الشيخ بعد ذلك عاجزًا عن القراءة فكان يملي رسائله على حفيده الذى استقدمه من الهند ليكون تحت رعايته كما يقرأ له هذا الحفيد الرسائل الواردة وما يرغب الشيخ في الاطلاع عليه، ولم ينجب الشيخ رحمت الله ذرية ولكنه ترك خلفه الكثير من الأبناء الروحيين الذين نهلوا من موارد علمه وفضله.
وفى الثانى والعشرين من شهر رمضان من عام ١٣٠٨ للهجرة الموافق الأول من شهر مايو عام ١٨٩١ للميلاد لبى الشيخ رحمت الله نداء ربه فدفن في مكة المكرمة في مقبرة المعلاة بعد حياة حافلة بالجهاد بالجنَان والبيان في سبيل الدفاع عن العقيدة الإسلامية ونشرها بين الناس ﵀ وأحسن جزاءه في جنات الخلد.
هذا ولا يزال أحفاد الشيخ رحمت الله يقومون على هذا الصرح العلمي الذى أسسه جدهم الأكبر في مكة المكرمة يتبع الخلف منهم آثار السلف ويحفظون هذه الشعلة المضيئة في بلد الله الحرام فجزاهم الله خير الجزاء.