فلما كان يوم الهزيمة اقتتلوا أشدّ قتال، واستظهر أصحاب عبد الرحمن على أصحاب الحجاج، واستعلوا عليهم، وهم آمنون أن ينهزموا، فبينما هم كذلك إذ حمل سفيان بن الأبرد وهو على ميمنة الحجاج على الأبرد بن قرّة التميمى، وهو على ميسرة ابن الأشعث، فانهزم الأبرد بالناس من غير قتال، فظنّ الناس أنّ الأبرد قد صولح على أن ينهزم بالناس، فلما انهزم تقوّضت الصفوف، وركب الناس بعضهم بعضا، وصعد عبد الرحمن [بن محمد] «١» المنبر ينادى الناس: إلىّ عباد الله؛ فاجتمع إليه جماعة، فثبت حتى دنا أهل الشام، فقاتل من معه، ودخل أهل الشام العسكر، فأتاه عبد الله بن يزيد بن المغفل الأزدى، فقال له: انزل، فإنى أخاف عليك أن تؤسر، ولعلك إذا انصرفت أن يجتمع «٢» لك جمع يهلكهم الله به.
فنزل وانهزم هو ومن معه لا يلوون على شىء. ودخل الحجاج الكوفة، وعاد محمد بن مروان إلى الموصل، وعبد الله بن عبد الملك إلى الشام، وأخذ الحجاج يبايع الناس، وكان لا يبايع أحدا إلا قال له: أتشهد أنك كفرت، فإن قال نعم بايعه، وإلا قتله.
فأتاه رجل من خثعم كان قد اعتزل الناس جميعا، فسأله عن حاله فأخبره باعتزاله، فقال له: أنت متربّص، أتشهد أنك كافر! فقال: بئس الرجل أنا إذا؛ أعبد الله «٣» ثمانين سنة ثم أشهد على نفسى بالكفر.