بينه وبين مصعب بن عمير، وشهد بعد ذلك مع علي بن أبي طالب الجمل وصفين، ثم سكن دمشق، فلم يزل يغزو الروم حتى قبض في غزوة غزاها مع يزيد بن معاوية، ودفن في أصل حصن القسطنطينية سنة اثنتين وخمسين، وقد شهد فتح مصر.
وروى عنه من الصحابة جماعة منهم: المقدام بن معد يكرب والبراء بن عازب وجابر بن سمرة وأبو أمامة، وعبد الله بن يزيد الخطمي.
وقد روى أبو أيوب عن رسول الله (١١ - ظ) ﷺ حديثا.
أخبرنا أبو الفتوح نصر بن أبي الفرج الحصري-كتابه إلينا من مكة-قال:
أخبرنا الحافظ أبو محمد عبد الله بن محمد بن علي الأشيري قال: أخبرنا أبو الوليد يوسف بن عبد العزيز بن ثابت قال: أخبرنا أبو عمر يوسف بن عبد الله بن عبد البر قال: خالد بن زيد بن كليب بن ثعلبة، أبو أيوب الأنصاري النجاري، من بني غنم بن مالك بن النجار، غلبت عليه كنيته، أمه هند بنت سعد بن عمرو بن امرئ القيس بن مالك بن ثعلبة بن كعب بن الخزرج بن الحارث بن الخزرج الأكبر، شهد العقبة وبدرا وسائر المشاهد، وعليه نزل رسول الله ﷺ في خروجه من بني عمرو بن عوف، حين قدم المدينة مهاجرا من مكة، فلم يزل عنده حتى بنى مسجده في تلك السنة، وبنى مساكنه، ثم انتقل ﷺ الى مسكنه، وآخى رسول الله ﷺ بينه وبين مصعب بن عمير.
قال أبو عمر: حدثنا سعيد بن نصر قال: حدثنا قاسم بن أصبغ قال: حدثنا ابن وضاح قال: حدثنا أبو بكر بن أبي شيبة قال: حدثنا يونس بن محمد عن الليث بن سعد عن يزيد بن أبي حبيب عن أبي الخير عن أبي رهم السماعي أن أبا أيوب الأنصاري حدثه قال: نزل رسول الله ﷺ في بيتنا الاسفل وكنت في الغرفة فأهريق (١٢ - و) ماء في الغرفة فقمت أنا وأم أيوب بقطيفة نتبع الماء شفقة أن يخلص إلى رسول الله ﷺ، ونزلت إلى النبي ﷺ وأنا مشفق، فقلت: يا رسول الله إنه ليس ينبغي-أن نكون فوقك، انتقل الى الغرفة، فأمر النبي ﷺ بمتاعه أن ينتقل، ومتاعه قليل، وذكر تمام الحديث.