ثم ولي أبو يعلى القضاء بدار الخلافة والحريم، مع قضاء حران وحلوان وقد تلا بالقراءات العشر، وكان ذا عبادة وتهجد، وملازمة للتصنيف، مع الجلالة والمهابة، ولم تكن له يد طولى في معرفة الحديث، فربما احتج بالواهي.
تفقه عليه أبو الحسن البغدادي، وأبو جعفر الهاشمي، وأبو الغنائم بن الغباري، وأبو علي بن البناء، وأبو الوفاء بن القواس، وأبو الحسن النهري، وابن عقيل، وأبو الخطاب، وأبو الحسن بن جدا، وأبو يعلى الكيال، وأبو الفرج الشيرازي.
ألف كتاب " أحكام القرآن "، و " مسائل الإيمان "، و " المعتمد " ; ومختصره، و " المقتبس "، و " عيون المسائل "، و " الرد على الكرامية "، و " الرد على السالمية والمجسمة "، و " الرد على الجهمية "، و " الكلام في الاستواء "، و " العدة " في أصول الفقه ومختصرها، و " فضائل أحمد "، وكتاب " الطب "، وتواليف كثيرة سقتها في " تاريخ الإسلام ".
وكان متعففا، نزه النفس، كبير القدر، ثخين الورع.
توفي سنة ثمان وخمسين وأربعمائة.
ومات فيها البيهقي وقاضي سارية أبو إسحاق إبراهيم بن محمد السروي وأبو علي الحسن بن غالب المقرئ، وأبو الطيب عبد الرزاق بن شمة وأبو الحسن علي بن إسماعيل بن سيده صاحب " المحكم "، والقاضي أبو عاصم محمد بن أحمد بن محمد العبادي بهراة.