قال أبو شامة: هذه الأبيات أظنها كانَ نظمها في أيام محنته إذ كان محبوسًا بواسِط، فمعانيها دالة على ذلك، واللَّه أعلم.
قال أبو المظفر: نزل من المنبر، فمرض خمسة أيام، وتوفي في داره سنة ٥٩٧ ليلة الجمعة، واجتمع أهل بغداد، وغلقت الأسواق، وجاء أهل المحالّ، وشددنا التابوت بالحبال، وسلمناه إليهم، فذهبوا به إلى البرية مكان جلوسه، فصلى عليه ابنه أبو القاسم، علي اتفاقًا؛ لأن الأعيان لم يقدروا على الوصول إليه، ثم ذهبوا به إلى جامع المنصور، فصلوا عليه، وضاق بالناس، وكان يومًا مشهودًا، لم يصلْ إلى حفرته عندَ قبر أحمد بن حنبل إلا وقت صلاة الجمعة، وما وصل إلى حفرته من الكفن إلا قليل.
ونزل في الحفرة والمؤذن يقول: اللَّه أكبر! وحزن الناس عليه حزنًا شديدًا، وبكوا عليه بكاءً كثيرًا، وباتوا عند قبره طول شهر رمضان يختمون الختمات، ورآه تلك الليلة المحدث أحمدُ بنُ سليمان الحربي على منبرٍ من ياقوت مرصَّع بالجوهر، والملائكة حِلَقٌ بين يديه، والحقُّ تعالى حاضر يسمع كلامه.
ورثاه القادري العلوي بأبيات، منها:
الدهرُ عن طمع يَغُرُّ ويخدَعُ ... وزخارفُ الدنيا الدنيَّةِ تُطْمِعُ
وأَعِنَّةُ الآمال يُطلِقها الرَّجا ... طَمَعًا، وأسيافُ المنيَّةِ تقطعُ
والموتُ آتٍ والحياةُ مريرةٌ ... والناسُ بعضُهُمُ لبعضٍ يَتبعُ
واعلمْ بأنَّكَ عن قليلٍ صائرٌ ... خَبَرًا، فكن خبرًا بخيرٍ يسمعُ
إلى تمام القصيدة. قال: وأوصى أن يكتب على قبره:
يا كثيرَ العفو عمن ... كثُر الذنب لديه!
جاءك المذنبُ يرجو ... الصفحَ عن جرمِ يديهِ
أنا ضيفٌ وجزاءُ الضيفِ ... الإحسان إليه
فرحمه اللَّه، وغفر له، ورحم سائر علماء المسلمين.
وحدث سعد الله البصري - وكان رجلا صالحًا، وكان مرجان حينئذ في