ولد سنة ثلاثين وثلاثمائة، وحدث عن جعفر الخلدي وغيره، وكان يعظ بجامع المنصور، وجامع المهدي، ويتكلم على طريقة التصوف.
أخبرنا أبو بكر محمد بن الحسين، قال: حكى لي أبو محمد التميمي، أن أبا الحسين بن السماك الواعظ دخل عليهم يوما وهم يتكلمون في أبابيل، فقال: في أي شيء أنتم؟ فقالوا: نحن في ألف أبابيل، هل هي ألف وصل أو ألف قطع، فقال: لا ألف وصل ولا ألف قطع، وإنما ألف سخط، ألا ترى إنه بلبل عليهم عيشهم. فضحك القوم من ذلك.
أَخْبَرَنَا أَبُو مَنْصُورٍ الْقَزَّازُ، أَخْبَرَنَا أَبُو بَكْرٍ بن ثابت، قال: قال لي أبو الفتح محمد بن أحمد المصري: لم أكتب ببغداد عمن أطلق عليه الكذب غير أربعة منهم أبو الحسين بن السماك.
توفي في ذي الحجة من هذه السنة، ودفن في مقبرة باب حرب.