بالقسط مع جده لأمه عمر، وفي الزهد مع الحسن البصري، وفي العلم مع الزهري، ولكن موته قرُب من موت شيوخه، فلم ينتشر علمه"١.
وكان طلبُه للعلم في مُقْتبل شبابه على شيوخ المدينة النبوية الزاخرة بالأئمة من عيون التابعين، فنهّل من علمهم وأدبهم. .
وكان الذي تولَّى تأديبه من رجالات المدينة النبوية هو صالحَ بن كيسان أحد الثقات الأجلَّة، فرأى صالحٌ من عمر كل خير، حتى قال فيه: "ما خبرت أحداً اللهُ أعظمُ في صدره من هذا الغلام". ورأى عمر من صالح كلَّ رعاية وتأديب رفيع، فاختاره فيما بعد مؤدّباً لأولاده٢.وكان شيوخه في العلم والرواية مشاهيرَ علماء المدينة آنذاك، إلا أنه أكثر التَّردد والأخذَ عن أحد فقهائها السبعة الأعلام، وهو عبيد الله بن عبد الله بن عُتْبة بن مسعود، ولكثرة تردده إليه واستفادته منه، وصفه العجلي بقوله:"وهو معلِّمُ عمرَ بنِ عبد العزيز"٣.