وقد ظل عمر في منزله هذا بعد أن أفضت الخلافة إليه إلا أنه بدلا من زيادة طنافسه وستوره، ورياشه جرده من كل ما فيه منها وحتى ثيابه وعطره باعها، ووضع ثمنها في بيت المال١.
ومن زهده رحمه الله تعالى ترك مظاهر البذْخ والإسراف التي سادت قبله، فكان أول ما أنكره الناس منه أنه لما غُسل سليمان بن عبد الملك وكُفن، وصلي عليه ودُفن، أتي بمراكب الخلافة وهي البراذين، والخيل، وكان لكل دابة سائس فقال عمر: ما هذه؟ فقالوا له: مراكب الخلافة لم تركب من قبل، يركبها الخليفة عند ما يلي، فقال عمر: "ما لي ولها نَحُّوها عني، بغلتي أوفق لي". فأتوه بدابته فركبها، وقفل راجعا بعد ما أمر مزاحما مولاه بضم تلك المراكب والسرادقات والحجر التي لم يجلس فيها أحد قط، والتي جرت العادة أن تضرب للخليفة - أول ما يولَّى- إلى بيت المال٢.