توفّي ﵀ فِي جُمَادَى الأولى سنة تسع وَأَرْبَعين وَثَلَاث مئة.
وغسله أَبُو عَمْرو ابْن مطر، وَدفن فِي مَقْبرَة بَاب معمر من نيسابور.
قَالَ ﵀: أول مَا اخْتلفت فِي طلب الْعلم إِلَى إِبْرَاهِيم بن أبي طَالب سنة أَربع وَتِسْعين ومئتين، فَلَمَّا رَأَيْت شمائله وسمته وَحسن مذاكرته للْحَدِيث حلا فِي قلبِي، فَكنت اخْتلفت إِلَيْهِ وأكتب عَنهُ " الأمالي "، فَحدث يَوْمًا عَن مُحَمَّد بن يحيى، عَن إِسْمَاعِيل بن أبي أويس، فَقَالَ لي بعض أَصْحَابنَا: لم لَا تخرج إِلَى هراة فَإِن بهَا شَيخا ثِقَة يحدث عَن إِسْمَاعِيل بن أبي أويس؟ فَوَقع ذَلِك فِي قلبِي، فَخرجت إِلَى هراة وَذَلِكَ سنة خمس وَتِسْعين.
قَالَ: واستأذنت أَبَا بكر مُحَمَّد بن إِسْحَاق بن خُزَيْمَة فِي الْخُرُوج إِلَى الْعرَاق سنة ثَلَاث وَثَلَاث مئة، فَقَالَ: توحشنا مفارقتك يَا أَبَا عَليّ، وَقد رحلت وَأدْركت الْأَسَانِيد الْعَالِيَة، وَتَقَدَّمت فِي حفظ الحَدِيث، وَلنَا فِيك فَائِدَة وَأنس فَلَو أَقمت، فَمَا زلت بِهِ حَتَّى أذن لي فَخرجت