ولما حضر أبا موسى الموت، جمع بنيه فقال: "انظروا إذا أنا مت، فلا تؤذنن بي أحدا ولا يتبعني صوت ولا نار، وليكن ممسى أحدكم بحذاء ركبتي من السرير". ولما أغمي عليه بكت ابنة الدومي أم أبي بردة، فقال: "أبرأ إليكم ممن حلق وسلق وخرق (١) وأغمي عليه، فبكوا عليه، فقال: "أما علمتم ما قال رسول الله ﷺ؟ "، فذكروا ذلك لامرأته، فسألته، فقال: "من حلق وخرق وسلق". وأغمي على أبي موسى، فبكوا عليه، فأفاق فقال: "إني أبرأ إليكم مما برئ منه رسول الله ﷺ: من حلق وخرق وسلق "، وأغمي عليه في مرضه، فصاحت عليه أم بردة، فأفاق، فقال: إني بريء ممن حلق وسلق وشق "، يقول ذلك للخامشة وجهها. وقال: "إذا حفرتم لي، فأعمقوا لي قعره"، وقال: "أعمقوا لي قبري (٢) ".
ومات أبو موسى سنة ثنتين وخمسين الهجرية في خلافة معاوية بن أبي سفيان، وقال بعض أهل العلم: "إنه مات قبل هذا الوقت بعشر سنين، سنة ثنتين وأربعين الهجرية (٣). وقيل: مات سنة أربع وأربعين الهجرية (٤)، وقيل: سنة خمسين الهجرية أو سنة اثنتين وخمسين الهجرية (٥)، وأكثر المصادر تتفق على أن وفاته كانت سنة ثنتين وأربعين الهجرية أو سنة أربع وأربعين الهجرية، وهي المصادر القديمة ومصادر المحدثين: القديمة منها قريبة العهد من الذين سجلت سيرهم، والمحدثون الموثوق بهم معروفون بصدقهم ودقتهم.