توفي رحمه الله تعالى عشية يوم الأحد، ودفن يوم الإثنين لخمس بقين من رجب سنة إحدى وستين ومائتين.
وقد ذكروا قصة عجيبة في سبب وفاته فقالوا: إنه عقد له مجلس للمذاكرة، فذُكر له حديث لم يعرفه، فانصرف إلى منزله وأوقد السراج، وقال لمن في الدار: لا يدخلن أحد منكم هذا البيت، فقيل له: أُهديت لنا سلة فيها تمر، فقال: قدموها إليّ، فقدموها إليه، فكان يطلب الحديث ويأخذ تمرة تمرة يمضغها، فأصبح وقد فني التمر ووجد الحديث، قال الحاكم (¬١) -الراوي لهذه القصة-: زادني الثقة من أصحابنا أنه منها مرض ومات (¬٢).