توفي يوم الثلاثاء ضحوة نهار الثاني والعشرين من ذي الحجة سنة ست وسبعين وأربعمائة ببغداد، وهي السنة التي توفي فيها شيخه، قاله ابن نقطة في كتاب "تكملة الإكمال".
ويحكى: أنه كان وقت وفاته قاعدًا يكتب في مصحف فوضع القلم من يده واستند، وقال: والله إن هذا موت هنئ طيب فمات.
نقل عنه في "الروضة" خاصة في موضع واحد فقط وهو تصحيح الرد على ذوي الأرحام إذا لم ينتظم أمر بيت المال.
وكتابه الذي ذكر فيه ذلك يسمى "بالتلخيص"، وقد رأيته فيه ناقلًا له عن الأكثرين.