يوم السبت ٢ شوّال ١٤٢٦ هـ كان عائدا من المسجد إلى بيته بـ "ديوبند" على كرسيّ متنقل، فسقط عنه، مما أصاب رأسه جرحا، أدّى إلى تحطّم عروق في الدماغ، ونُقِل إلى "دهلي"، فأدخل مساءً مستشفى "أبولو"، وبقى فيه مغمى عليه طوال ثلاثة شهور، يزوره كلّ يوم مئات من الناس من شتى قطاعات المجتمع، حتى لفظ أنفاسه الأخيرة في الساعة السادسة إلّا ٢٥ دقيقة من مساء يوم الاثنين ٧ محرّم ١٤٢٧ هـ، وقد كان لدى وفاته في ٧٨ عامًا من عمره بالقياس إلى التقويم الميلادي، وفي ٨٠ منه بالقياس إلى التقويم الهجري.
ثم حُمِلَ جثمانه من المستشفى إلى مقرّ الجمعية الكائن بحيّ "آئى، تي، أو" بـ "دهلي الجديدة" حيث حضر كبار الزعماء والقادة من المسلمين وغير المسلمين، وقدّموا التعازي إلى أنجال الفقيد وأخويه والأقارب، وأبدوا غاية حزنهم وأسفهم على وفاته، وعلى رأسهم معالي رئيس الوزراء الهندي "مانموهن سينغ" ورئيسة حزب المؤتمر "سونيا غاندي" وكبيرة وزراء "دهلي" "شيلا ديكشت" والشيخ سيّد أحمد بخاري إمام المسجد الجامع الملكي الأثري الكبير.
وفي ٧ - ٨/ ١/ ١٤٢٧ هـ حمل جثمانه من "دهلي" إلى "ديوبند"؛ وتمّ إجراءات الغسل والتكفين في بيته "مدني منزل" الملاصق لدار العلوم ديوبند من جهة "بوّابة مدني"، ثم نقل الجثمان إلى محيط دار العلوم في نحو الساعة الخامسة من صباح يوم الثلاثاء، حيث زاره خلق لا يُحْصى، وصُلِّي عليه إثر صلاة الفجر، وأمّ في الصلاة عليه الشيخ الصالح محمد طلحة السهارنبوري، نجل المحدّث الكبير الشيخ محمد زكريا بن يحيى الكاندهلوي ﵀، المتوفى والمدفون بـ "المدينة المنوّرة" عام ١٤٠٢ هـ، وذلك في الساعة السابعة والعشرين دقيقة.