قال أبو المظفر في كتاب مرآة الزمان: قال عبد الصمد بن المهتدي: لما دخل المأمون بغداد نادى بترك الأمر بالمعروف والنهي عن المنكر وذلك؛ لأن الشيوخ بقوا يضربون، ويحبسون فنهاهم المأمون، وقال: قد اجتمع الناس على إمام فمر أبو نعيم فرأى جنديا، وقد أدخل يديه بين فخذي امرأة فنهاه بعنف فحمله إلى الوالي فيحمله الوالي إلى المأمون. قال: فأدخلت عليه بكرة، وهو يسبح فقال: توضأ. فتوضأت ثلاثًا ثلاثًا على ما رواه عبد خير عن علي فصليت ركعتين. فقال: ما تقول في رجل مات عن أبوين؟ فقلت: للأم الثلث، وما بقي للأب قال: فإن خلف أبويه وأخاه؟ قلت: المسألة بحالها وسقط الأخ. قال: فإن خلف أبوين وأخوين؟ قلت: للأم السدس وما بقي للأب قال: في قول الناس كلهم؟ قلت: لا، إن جدك ابن عباس يا أمير المؤمنين ما حجب الأم عن الثلث، إلَّا بثلاثة إخوة فقال: يا هذا من نهى مثلك عن الأمر بالمعروف؟ إنما نهينا أقوامًا يجعلون المعروف منكرًا ثم خرجت.
روى المروذي عن أحمد بن حنبل قال: إنما رفع الله عفان وأبا نعيم بالصدق حتى نوه بذكرهما.
قال أبو عبيد الآجري: قلت لأبي داود: كان أبو نعيم حافظا؟ قال: جدًا.
قال أبو أحمد محمد بن عبد الوهاب الفراء: كنا نهاب أبا نعيم أشد من هيبة الأمير.
قلت: وكان في أبي نعيم تشيع خفيف.
قال أحمد بن ملاعب: حدثني ثقة قال: قال أبو نعيم: ما كتبت علي الحفظة أني سببت معاوية وبلغنا عن أبي نعيم أنه، قال: حب علي ﵁ عبادة وخير العبادة ما كتم.
قال محمد بن أبان: سمعت يحيى بن سعيد القطان يقول: إذا وافقني هذا الأحول يعني: أبا نعيم ما أبالي من خالفني.
قال يعقوب السدوسي: سمعت أحمد بن حنبل يقول: نزاحم به سفيان بن عيينة.
قلت: توفي أبو نعيم شهيدًا فإنه طعن في عنقه، وحصل له ورشكين.
قال محمد بن عبد الله مطين: رأيت أبا نعيم وكلمته قال: ومات يوم الشك من رمضان، سنة تسع عشرة ومائتين.