الرشيد والبيْعة لابنه جعفر بن موسى الهادي، وتابعه على ذلك القوّاد، منهم يزيد بن مزيد وعبد الله بن مالك وعليّ بن عيسى ومَنْ أشبههم، فخلعوا هارون، وبايعوا لجعفر بن موسى، ودسُّوا إلى الشيعة، فتكلموا في أمره، وتنقَّصوه في مجلس الجماعة، وقالوا: لا نرضى به، وصعب أمرهم حتى ظهر، وأمر الهادي ألَّا يسارَ قدّامَ الرشيد بحربة، فاجتنبه الناس وتركوه، فلم يكن أحدٌ يجترئ أن يسلِّم عليه ولا يقربه.
وكان يحيى بن خالد يقوم بإنزال الرّشيد ولا يفارقه هو وولده - فيما ذكر -. قال صالح: وكان إسماعيل بن صُبيح كاتب يحيى بن خالد، فأحبّ أن يضعه موضعًا يستعلم له فيه الأخبار، وكان إبراهيم الحرّانيّ في موضع الوزارة لموسى، فاستكتب إسماعيل ورفع الخبر إلى الهادي، وبلغ ذلك يحيى بن خالد، فأمر إسماعيل أن يشخص إلى حرَّان، فسار إليها، فلما كان بعد أشهر سأل الهادي إبراهيم الحرانيّ: مَن كاتبك؟ قال: فلان كاتب، وسمّاه، فقال: أليس بلغني أن إسماعيل بن صُبيح كاتبك؟ قال: باطلٌ يا أمير المؤمنين، إسماعيل بحرّان.
قال: وسُعِيَ إلى الهادي بيحيى بن خالد، وقيل له: إنه ليس عليك من هارون خلاف، وإنما يفسده يحيى بن خالد، فابعث إلى يحيى، وتهدَّدْه بالقتل، وارمِه بالكفر، فأغضب ذلك موسى الهادي على يحيى بن خالد.
وذكر أبو حفص الكرمانيّ أن محمد بن يحيى بن خالد حدّثه، قال: بعث الهادي إلى يحيى ليلًا، فأيِس من نفسه، وودَّع أهله، وتحنَّط وجدّد ثيابه، ولم يشكّ أنه يقتله، فلمّا أدخِل عليه، قال: يا يحيى، مالي ولك! قال: أنا عبدُك يا أمير المؤمنين، فما يكون من العبد إلى مولاه إلا طاعته. قال: فلمَ تدخل بيني وبين أخي وتفسده عليّ! قال: يا أمير المؤمنين، مَنْ أنا حتى أدخل بينكما! إنما صيرني المهديّ معه، وأمرني بالقيام بأمره، فقمت بما أمرني به، ثم أمرتَني بذلك فانتهيت إلى أمرك. قال: فما الذي صنع هارون؟ قال: ما صنع شيئًا، ولا ذلك فيه ولا عنده. قال: فسكن غضبُه. وقد كان هارون طاب نفسًا بالخلع، فقال له يحيى: لا تفعل، فقال: أليس يترك لي الهنيء والمريء، فهما يسعانني وأعيش مع ابنة عمي! وكان هارون يجدُ بأمّ جعفر وجْدًا شديدًا، فقال له يحيى: