سمع محمد بن شادل، وأحمد بن محمد الماسرجسي، ومحمد بن إسحاق الثقفي، ومحمد بن إسحاق بن خزيمة بنيسابور، ومحمد بن إبراهيم الغازي بطبرستان، ومحمد بن محمد الباغندي، ومحمد بن حميد بن المجدر، وعبد الله البغوي، وابن أبي داود ببغداد، ومحمد بن الحسين الخثعمي، وعبد الله بن زيدان البجلي بالكوفة، وأبا عروبة بحران، وسعيد بن هاشم بطبرية، ومحمد بن الفيض، وسعيد بن عبد العزيز، ومحمد بن خريم، وابن جوصا بدمشق، ومحمد بن إبراهيم الديبلي بمكة، وخلقًا سواهم بالبصرة وحلب والثغور.
روى عنه علي بن حمشاد، وهو أكبر منه، وأبو عبد الله الحاكم، وأبو عبد الله السلمي، ومحمد بن أحمد الجارودي، وأبو بكر بن منجويه، وعمر بن أحمد بن مسرور، وصاعد بن محمد القاضي، وأبو سعد الكنجروذي، وأبو عثمان البحيري، وخلق.
وقال أبو عبد الله الحاكم: أبو أحمد الحافظ إمام عصره في الصنعة، وكان من الصالحين الثابتين على سنن السلف، ومن المنصفين فيما يعتقده في أهل البيت والصحابة، وقلد القضاء في مدن كثيرة، وإنما سمع الحديث وقد صار ابن نيف وعشرين سنة. وصنف على كتابي البخاري ومسلم، وعلى جامع أبي عيسى الترمذي. فقلت له: قد صنفت على كتابي البخاري ومسلم، وتتبعت على شرط الترمذي. قال: نعم، سمعت عمر بن علك يقول: مات محمد بن إسماعيل ولم يخلف بخراسان مثل أبي عيسى في العلم والزهد والورع، بكى حتى عمي، ﵀.
قال الحاكم في تتمة ترجمة أبي أحمد: وصنف كتاب الأسماء والكنى وكتاب العلل والمخرج على كتاب المزني وكتاب الشروط، وكان عارفًا بها، وصنف الشيوخ والأبواب، وقلد قضاء الشاش، فحكم بها أربع سنين، ثم قضاء طوس، فكنت أدخل عليه، والمصنفات بين يديه، فيقضي بين اثنين، فإذا تفرغ أقبل على التصنيف، ثم إنه قدم نيسابور سنة خمس وأربعين وثلاث مائة، ولزم مسجده، وأقبل على العبادة والتواليف، وأريد غير مرة على القضاء، فامتنع، وكف بصره سنة ست وسبعين. وهو حافظًا عصره بهذه الديار.