وكان على مَذْهب محمد بن جرير الطَّبَري.
سمع البَغَوي، وابن أبي داود، وابنَ صاعد، وأبا حامد الحَضْرمي، وأبا سعيد العَدَوي، والمحاملي، وخَلْقًا.
وقرأ بالرِّوايات على ابن شَنَبوذ وغيره.
روى عنه: أبو القاسم الأَزْهري، وأبو الطَّيِّب الطَّبَري، وأحمد بن عمر بن رَوْح، وآخرون.
قال الخطيب: كان من أعلم النَّاس في وقته بالفِقْه والنحو واللُّغة، وأصناف الأَدب، ولي القضاء بباب الطاق (١)، وبلغنا عن أبي محمد البافي الفقيه أَنَّه كان يقول: إذا حَضَر القاضي أبو الفرج فقد حضرت العلوم كلُّها. حدَّثني أبو حامد الدَّلْوي القاضي قال: كان أبو محمدٍ البافي يقول: لو أوصى رجل بثُلُث ماله أن يُدْفع إلى أعلم النَّاس لوجب أن يُدْفع إلى المُعَافى بن زكريا (٢).
وقال الخطيب: سأَلْت البَرْقَاني عن المُعَافى فقال: كان أعلمَ النَّاسَ، وكان ثِقَةً، لم أسمعْ منه (٣).
وقيل: إن المعافى كان متقلِّلًا متعفِّفًا.
وقال الحُميدي: قرأتُ بخطِّ المُعَافى بن زكريا قال: حججتُ وكنت بمِنى فسمعت مناديًا ينادي: يا أبا الفَرج المُعَافى بن زكريا