معه كأنه مودع له، وتم إلى بغداد. وتولى وزارة القائم، وبقي فيها إلى آخر عهد القائم، ومعه ولداه: أبو منصور، وأبو القاسم زعيم الرؤساء.
فلقب هذا عميد الدولة، وكان ينوب عن والده. فلما عزل أبوه في أيام المقتدي بعد ما وزر له سنين سنة إحدى وسبعين، خرج عميد الدولة إلى نظام الملك واسترضاه، وعاد إلى بغداد وتولى الوزارة مكان أبيه.
وخرج أبوه عن السلطان ملكشاه لفتح ديار بكر ومحاربة ابن مروان في ميافارقين، وكان فتحها على يده.