قال عبد الرحمن رسته: حدثنا يحيى بن عبد الرحمن بن مهدي، أن أباه قام ليلة، وكان يحيي الليل كله، قال: فلما طلع الفجر رمى بنفسه على الفراش حتى طلعت الشمس، ولم يصل الصبح، فجعل على نفسه أن لا يجعل بينه وبين الأرض شيئا شهرين، فقرح فخذاه جميعا.
وقال رسته: سمعت ابن مهدي يقول لفتى من ولد الأمير جعفر بن سليمان: بلغني أنك تتكلم في الرب، وتصفه وتشبهه. قال: نعم، نظرنا، فلم نر من خلق الله شيئا أحسن من الإنسان، فأخذ يتكلم في الصفة، والقامة. فقال له: رويدك يا بني حتى نتكلم أول شيء في المخلوق، فإن عجزنا عنه، فنحن عن الخالق أعجز، أخبرني عما حدثني شعبة، عن الشيباني، عن سعيد بن جبير، عن عبد الله: لقد رأى من آيات ربه الكبرى قال: رأى جبريل له ستمائة جناح فبقي الغلام ينظر. فقال: أنا أهون عليك صف لي خلقا له ثلاثة أجنحة، وركب الجناح الثالث منه موضعا حتى أعلم. قال: يا أبا سعيد، عجزنا عن صفة المخلوق، فأشهدك أني قد عجزت، ورجعت.
قال أبو حاتم الرازي: سئل أحمد بن حنبل عن يحيى وابن مهدي، فقال: ابن مهدي أكثر حديثا.
قال أحمد العجلي: شرب عبد الرحمن بن مهدي البلاذر وكذا الطيالسي، فبرص عبد الرحمن، وجذم الآخر. قال: وقيل لعبد الرحمن: أيما أحب إليك، يغفر لك ذنبا، أو تحفظ حديثا؟ قال: أحفظ حديثا.
أبو الربيع الزهراني: سمعت جريرا الرازي يقول: ما رأيت مثل عبد الرحمن بن مهدي. ووصف حفظه وبصره بالحديث.
قال نعيم بن حماد: قلت لعبد الرحمن بن مهدي: كيف تعرف الكذاب؟ قال: كما يعرف الطبيب المجنون.
قال محمد بن أبي صفوان: سمعت علي بن المديني يقول: لو أخذت، فحلفت بين الركن والمقام، لحلفت بالله أني لم أر أحدا قط أعلم بالحديث من عبد الرحمن بن مهدي. سمعه أبو حاتم الرازي منه.