يقول
السمعاني: «سمع ببلده، ثم رحل إلى البصرة وأصبهان وخُراسان والحجاز والشام» (¬١).
ويقول ابن الجوزي: «وأكثر من السماع من البغداديين، ورحل إلى البصرة، ثم إلى نيسابور، ثم إلى أصبهان … » (¬٢).
وكان من أهم الشيوخ الذين لازمهم الخطيب ببغداد وتعلم منهم وتأثر بهم: الحافظ أبو بكر أحمد بن محمد بن أحمد بن غالب الخوارزمي المعروف بالبَرْقاني، فقد استوطن بغداد، فأخذ عنه الخطيب كثيرًا وكان معجبًا به (¬٣).
وقد تأثَّر أيضًا بالحافظ أبي القاسم عبيد الله بن أحمد بن عثمان الأزهري، وكتب عنه الحديث، وسمع منه كثيرًا من مصنفات الأئمة السابقين (¬٤).
كما حرص أشد الحرص على لقاء العلماء الوافدين على بغداد وعلى الاستفادة منهم والقراءة عليهم، فما سمع بعالم ورد بغداد للعلم أو للحج أو للتجارة أو لغير ذلك، إلا وسارع في الذهاب إليه، فمن هؤلاء العلماء: الحافظ محمد بن علي أبو عبد الله الصوري، الذي قدم بغداد في سنة ثمانيَ عشرة وأربعمائة وظل بها إلى أن توفي سنة إحدى وأربعين وأربعمائة، وقد استفاد منه الخطيب وأخذ عنه كثيرًا (¬٥).