وقد اعتزل ﵁ في آخر حياته بالربذة (¬١) بالقرب من المدينة.
روى الإمام أحمد في مسنده من حديث إبراهيم - يعني ابن الأشتر - أن أبا ذر حضره الموت وهو بالربذة، فبكت امرأته، فقال: ما يبكيك؟ قالت: أبكي أنه لا يد لي بنفسك، وليس عندي ثوب يسعك كفنًا، فقال: لا تبكي، فإني سمعت رسول الله ﷺ ذات يوم وأنا عنده في نفر يقول: «لَيَمُوتَنَّ رَجُلٌ مِنْكُمْ بِفَلَاةٍ مِنَ الأَرْضِ يَشْهَدُهُ عِصَابَةٌ مِنَ الْمُؤْمِنِينَ»، قال: فكل من كان معي في ذلك المجلس مات في جماعة وفرقة، فلم يبق منهم غيري، وقد أصبحت بالفلاة أموت، فراقبي الطريق، فإنك سوف ترين ما أقول: فإني والله ما كَذبت ولا كُذبت، قالت: وأنى ذلك وقد انقطع الحاج؟ قال: راقبي الطريق.
قال: فبينا هي كذلك إذا هي بالقوم تخد بهم رواحلهم كأنهم الرَّخمُ، فأقبل القوم حتى وقفوا عليها فقالوا: ما لك؟ قالت: امرؤ من المسلمين تكفنونه وتؤجرون فيه! قالوا: ومن هو؟ قالت: أبو ذر، ففدوه بآبائهم وأمهاتهم، ووضعوا سياطهم في نحورها يبتدرونه، فقال: أبشروا، أنتم النفر الذين قال رسول الله ﷺ فيكم ما قال، أبشروا، سمعت رسول الله ﷺ يقول: «مَا مِنَ امْرَأَيْنِ مُسْلِمَيْنِ هَلَكَ بَيْنَهُمَا وَلَدَانِ أَوْ ثَلَاثَةٌ فَاحْتَسَبَا وَصَبَرَا فَيَرَيَانِ النَّارَ