وتوفى ابن حبيب في ذى الحجة، سنة ثمان وثلاثين، وقيل تسع وثلاثين ومائتين، وقد بلغ ستا وخمسين سنة (¬١٦٦).
وقال الشيرازي: ثلاثا وخمسين سنة.
وقبره بقرطبة، بمقبرة أم سلمة، في قبلة مسجد الضيافة.
وصلى عليه القاضي أحمد بن زياد، قاله ابن الفرضي.
وقال غيره: صلى عليه ابنه يحيى.
وقال محمد بن حارث: توفى سنة سبع وثلاثين ومائتين، إلى ستة شهور من ولاية الأمير محمد.
قال ابن لبابة: احتفر لابن وضاح إلى جانب قبر ابن حبيب، فانفتح ما بين القبرين، فأدخل الحافر يده إلى جنبه، فوجده وافرا لم تأكله الأرض، والتصق بيده من الكفن.
ورثاه أبو عبادة الرشاش بقوله:
لئن أخذت منا المنايا مهذبا … وقد قل فينا من يقال المهذب
لقد طاب فيه الموت والموت غبطة … لمن هو مغموم الفؤاد معذب
ولأحمد بن هاني (¬١٦٧) فيه:
ماذا تضمن قبر أنت ساكنه … من التقى والندى يا خير مفقود
عجبت للأرض في أن غيبتك وقد … ملأتها حكما في البيض والسود
وخلف ابنين: محمدا وعبيد الله.
سمع عبيد الله، من والده، وكان له حظ من العلم إلا أن الزهد غلب عليه والعبادة، فانقطع إليهما، ولم يرغب في الدنيا، وعاد إلى بلده ألبيرة، فلزمها إلى أن توفى سنة إحدى وتسعين ومائتين، وقيل في نيف عليها