وروى عن عمرو بن علي الكندي بسنده عن أبي هريرة قال: قال رسول الله ﷺ: " ثلاثة من كن فيه يستكمل إيمانه: رجل لا يخاف في الله لومة لائم، ولا يرائي بشيءٍ من عمله، ومن إذا عرض عليه أمران: أحدهما للدنيا والآخر للآخرة اختار أمر الآخرة على الدنيا. " قال يزيد بن عبد الصمد: قدم علينا أبو زرعة الرازي سنة ثمان وعشرين فما رأينا مثله، وكنا نجلس إليه، فلما أراد الخروج قلت له: يا أبا زرعة، اجعلني خليفتك في هذه الحلقة، قال: فقال لي: قد جعلتك.
قال محمد بن عوف: قدم علينا أبو زرعة، فما ندري مما يتعجب به؟! مما وهب الله له من الصيانة والمعرفة مع الفهم الواسع.
قال أبو زرعة الرازي: لا أعلم أنه صح لي رباط يوم قط؛ أما ببيروت فأردنا العباس بن الوليد بن مزيد، وأما عسقلان فمحمد بن أبي السري، وأما قزوين فمحمد بن سعيد بن سابق.
وقال: كنت أكثر الاختلاف إلى أحمد بن حنبل، وأذاكره، ويذاكرني وأسائله.
قال عبد الله بن أحمد بن حنبل: لما قدم أبو زرعة نزل عند أبي، فكان كثير المذاكرة له، فسمعت أبي يوماً يقول: ما صليت غير الفرض استأثرت بمذاكرة أبي زرعة على نوافلي.
قال أبو سعيد بن يونس: عبيد الله بن عبد الكريم بن يزيد، أبو زرعة الرازي، نسبوه في قريش، قدم مصر. وكانت وفاته بالري سنة أربعٍ وستين ومائتين.