وقال أبو أحمد علي بن محمد المروزي: سمعت محمد بن موسى الباشاني يقول: مات الذهلي يوم الثلاثاء لثلاث بقين من ربيع الآخر، سنة ثمان وخمسين.
وقال يعقوب بن محمد الصيدلاني: يوم الاثنين لأربع بقين من ربيع الأول.
كان الذهلي شديد التمسك بالسنة، قام على محمد بن إسماعيل لكونه أشار في "مسألة خلق العباد" إلى أن تلفظ القارئ بالقرآن مخلوق، فلوح وما صرح، والحق أوضح. ولكن أبى البحث في ذلك أحمد بن حنبل وأبو زرعة والذهلي، والتوسع في عبارات المتكلمين سدًا للذريعة، فأحسنوا، أحسن الله جزاءهم. وسافر ابن إسماعيل مختفيًا من نيسابور، وتألم من فعل محمد بن يحيى وما زال كلام الكبار المتعاصرين بعضهم في بعض لا يلوى عليه بمفرده. وقد سقت ذلك في ترجمة ابن إسماعيل، رحم الله الجميع، وغفر لهم ولنا آمين.
ولما توفي الذهلي تقدم في الصلاة عليه أمير خراسان محمد بن طاهر في ميدان الحسين.