روى عن: أبي بكر الآجُريّ، وأبي بكر بن خلّاد النصيبي، ومحمد بن عبد الحميد الصَّنْعَاني، وأحمد بن ضحاك الزاهد، وعلي بن أحمد المصيصي، ومحمد بن أحمد المفيد.
وعنه: عبد العزيز الأزجي، وغير واحد.
قال الخطيب: حدَّثني العتيقي والأزهري أنه كان مجتهدًا في العبادة، وقال لي أبو طاهر العلّاف: وعظ أبو طالب ببغداد، وخلط في كلامه، وحفظ عنه أنه قال: ليس على المخلوقين أضرّ من الخالق، فبَدَّعوه وهجروه.
وقال غيره: كان يجوع كثيرًا، ولقي سادة، ودخل البصرة بعد موت أبي الحسن بن سالم، فانتهى إلى مقالته.
وقال أبو القاسم بن بشران: دخلت على شيخنا أبي طالب فقال: إذا علمت أنه قد ختم لي بخير فانثر على جنازتي سكرًا ولوزًا، وقل: هذا الحاذق، وقال: إذا احتضرت فخذ بيدي، فإذا قبضت على يدك فأعلم أنه قد خُتِمَ لي بخير، فقعدت، فلمَّا كان عند موته قبض على يدي قبضًا شديدًا، فنثرت على جنازته سكرًا ولوزًا.
ولأبي طالب رياضات وجوع؛ بحيث إنه ترك الطعام وتقنَّع بالحشيش، حتى اخضرَّ جلده.
رأيت لأبي طالب أربعين حديثًا بخطه، قد خرَّج فيها عن عبد الله بن جعفر بن فارس الأصبهاني إجازةً، وفيها عن أبي زيد المروزي من "صحيح البخاري" أولها: "الحمد لله كنه حمده بحمده" وله كتاب "قوت القلوب" مشهور.
توفِّي في جمادى الآخرة سنة ست وثمانين وثلاث مائة.