وعمل الآس بالحجارة والجدار بالحجارة المطابقة والقصة وجعل عمد المسجد من حجارة حشوها عمد الحديد والرصاص وفي خبر لأبن زبالة أن عمر هدمه سنة إحدى وتسعين أي بتقديم التاء الفوقية وبناه بالحجارة المنقوشة وقصة بطن نخل وعمله بالفسيفساء والمرمر وعمل سقفه بالساج وماء الذهب وهدم حجر أزواج النبيّ ﷺ ونقل لبنها ولبن المسجد فبنى به داره بالحرّة فهو فيها اليوم له بياض على اللبن قال فبينا العمال يعملون في المسجد إذ خلالهم فقال بعض عمال الروم ألا أبول على قبر نبيهم فتهيأ لذلك فنهاه أصحابه فلما هم بذلك اقتلع فألقى على رأسه فانتثر دماغه
وأسلم بعضهم وعمل أحدهم على رأس خمس طاقات في جدار قبلة صحن المسجد صورة خنزير فأمر به عمر فضربت عنقه وقال بعض عمال الفسيفساء إنما عملناه على ما وجدنا من صور شجر الجنة وقصورها أهو ليحيى عن النضر بن أنس كان عمر بن عبد العزيز إذا عمل العامل الشجرة الكبيرة من الفسيفساء فأحسن عملها نفله ثلاثين درهما وذكر هو وأبن زبالة ما كان فيه من الكتابات داخله وخارجه على أبوابه وتركناه لزواله ووصف أبن عبد ربه في العقد ما كان داخلا في جدار المسجد