قال أبو علي التنوخيّ: كان أبو الفرج يحفظ من الشعر والأخبار والأغاني والمسندات والنسب ما لم أَرَ قط من يحفظ مثله، ويحفظ اللغة والنحو والمغازي، وله تصانيف عديدة، بعثها إلى صاحب الأندلس الأموي سرًّا، وجاءه الإنعام، وله: "نسب عبد شمس"، و"نسب بني شيبان"، و"نسب آل الملهب"، جمعه للوزير الملَّهبِيّ، وكان ملازمه، وله "مقاتل الطالبين"، وكتاب "أيام العرب" في خمسة أسفار.
والعجب أنه أمويّ شيعيّ.
قال ابن أبي الفوارس: خلط قبل موته.
قلت: لا بأس به.
وكان وَسِخًا زَرِيًّا يتَّقُون هجاءه.
وله حكاية مع الجُهَنِيّ المحتسب: كان يجازف، فقال مرة: بالبلد الفلاني نعنع يطول حتى يعمل منه سلالم، فبدر أبو الفرج وقال: عجائب الدنيا ألوان، والقدره صالحة، فعندنا ما هو أعجب من ذا، زوج حمام يبيض بيضتين، فنأخذهما ونضع بدلهما سنجتين نحاسًا، فتفقس عن طست ومسينه، فتضاحكوا، وخَجِلَ الجُهَنِيّ.
مات في ذي الحجة سنة ست وخمسين وثلاث مائة، وله اثنتان وسبعون سنة.