وقال نعيم بن حماد: قلت لابن مهدي: كيف تعرف الكذاب؟ قال: كما يعرف الطبيب المجنون.
وكان عبد الرحمن فقيها بصيرا بالفتوى عظيم الشأن؛ لذا قال ابن المديني: لو حلفت بين الركن والمقام لحلفت إني لم أر مثل عبد الرحمن. وكان يقول: أعلم الناس بقول الفقهاء السبعة: الزهري, ثم بعده مالك، ثم بعده ابن مهدي. وكان يكثر قراءة القرآن فيختمه في كل ليلتين مرة, وكان يرى أن معرفة الحديث إلهام.
وقد انعقد الإجماع على أنه ثقة ثبت, وأن روايته عن الرجل توثيق له, وأن من أراد الدين والدنيا أتى بيته ونظر إليه, وقد اتسم بالهيبة والوقار واستحق الإجلال والإكبار لما أداه من دور في خدمة الحديث والمحدثين.
وقد انتقل ابن مهدي إلى رحاب رب العالمين في شهر رجب سنة ثمان وتسعين ومائة١, بعد ثلاثة وستين عاما نافح فيها عن الحديث وكافح, فرضي الله عنه وأرضاه.