وذكر ابن عساكر بإسناد له، أن عبد الرحمن لما عدى إلى الجزيرة فنزلها، اتبعه أهلها، ثم مضى إلى إشبيلية، فاتبعه أهلها، ثم مضى إلى قرطبة، فاتبعه من فيها، فلما رأى يوسف الفهري العساكر قد أظلته، هرب إلى دار الشرك فتحصن هناك، وغزاه عبد الرحمن بعد ذلك، فوقعت نفرة في عسكره، فانهزم، ورد عبد الرحمن بلا حرب، وجعل لمن أتاه برأس يوسف جعلا، فأتاه رجل من أصحاب يوسف برأسه.
وقال الحميدي: دخل عبد الرحمن الأندلس، فقامت معه اليمانية، وحارب يوسف بن عبد الرحمن الفهري متولي الأندلس، فهزمه، وكان عبد الرحمن من أهل العلم على سيرة جميلة من العدل.
وقال أبو المظفر الأبيوردي في أخبار بني أمية: كان الناس يقولون: ملك الأرض ابنا بربريتين - يعني: عبد الرحمن والمنصور.
وكان المنصور يقول عن عبد الرحمن بن معاوية: ذاك صقر قريش، دخل المغرب وقد قتل قومه، فلم يزل يضرب العدنانية بالقحطانية حتى ملك.
وقال سعيد بن عثمان اللغوي المتوفى سنة أربع مائة: كانت بقرطبة جنة اتخذها عبد الرحمن بن معاوية، كان فيها نخلة أدركتها.
وفي ذلك يقول عبد الرحمن بن معاوية:
يا نخل أنت غريبة مثلي
في الغرب نائية عن الأهل
فابكي، وهل تبكي ملمسة
عجماء لم تطبع على خبل
لو أنها تبكي إذن لبكت
ماء الفرات ومنبت النخل
لكنها ذهلت وأذهلني
بغضي بني العباس عن أهلي
وقد ولي على الأندلس عبد الرحمن بن عبد الله الغافقي في أيام عمر بن عبد العزيز، فبنى تلك القناطر بقرطبة بقبلي القصر والجامع، وهي ثمانية عشر قوسا، طولها ثمان مائة باع، وعرضها سوى ستائرها عشرون باعا، وارتفاعها ستون ذراعا، وهي من عجائب الدنيا.