أصله من الكوفة، ومسكنه بغداد، ولفقدان مستند القول بولادته في بغداد -فيما وقفت عليه- فلا يحسن الجزم به ولا ترجيحه (¬١)، وذلك لما في مقولة الخطيب السابقة -في أصله ومسكنه- ما لعله يشير لكون ولادته بالكوفة واللَّه أعلم.
وقد نشأ في بيت علم وفضل، فقد كان والده من أهل العلم والحديث، روى عنه في عدة مواطن من كتبه، في موضوعات متعددة، حديثا وأثرا وشعرا وأخبارا وتاريخا.
وكان والده حريصا على توجيهه لطلب العلم على بعض المحدثين والسماع منهم وهو في مقتبل شبابه، فقد ذكر الذهبي أن أقدم شيخ له هو سعيد بن سليمان الواسطي وهو المشهور بسعدوية، وقد توفي سنة (٢٢٥ هـ)، وكان حينئذ في سن السابعة عشرة، ولهذا لم يتهيأ له السماع من عفان بن مسلم -كما ذكره إبراهيم بن إسحاق الحربي-، لأن عفان بن مسلم توفي في عام (٢٢٠ هـ) وكان ابن أبي الدنيا في الثانية عشرة من عمره، وكأنه في هذا الوقت توجَّه -ولعله بتوجيه والده- لأدب الحديث وللتهذيب، فكان يصحب البرجلاني (ت: ٢٣٨ هـ) وهو صاحب التآليف في الزهد والرقائق (¬٢).