وضرب سالما ألف سوط، وكان يوسف يمشي خالدا في طريقه كثيرا إضرارا به.
ثم قدم يوسف الحيرة، فدعا بخالد وبابراهيم ومحمد ابني هشام بن اسماعيل المخزوميين، وكانا ممن يشير بخلع الوليد، فبسط يوسف على خالد، فلم يكلمه بكلمة، وصبر ابراهيم بن هشام، وجزع محمد، ومكث خالد يوما في العذاب، ثم وضع على صدره الدهق فقتل من الليل ودفن في ناحية الحيرة في عباءته التي كان فيها، وذلك في المحرم سنة ست وعشرين ومائة، فأقبل عامر بن سهلة الأشعري فعقر على قبره فرسا، فضربه يوسف سبعمائة سوط.
حدثني أبو بكر الأعين عن أبي نعيم الفضل بن دكين قال: حدثني رجل كان مع يوسف بن عمر قال: شهدت خالدا حين أتى به يوسف فدعا بعود فوضع على قدميه ثم قامت عليه الرجال حتى كسروا قدميه فوالله ما تكلم ولا عبس.
وقال الوليد بن يزيد لأبي الزناد: قد أمرت يوسف بعذاب ابني هشام بن اسماعيل، قال: سرور والله، فأخذ الوليد القرطاس وكتب إلى يوسف: إذا أتاك كتابي هذا فألحّ في العذاب على ابني هشام وخالد بن عبد الله حتى يموتوا، فكان يقال: ما قتلهم إلا أبو الزناد.
وقال المدائني: قالها رجل من قيس ونحّلها الوليد وهو الثبت:
وهذا خالد أمسى أسيرا … ألا منعوه إن كانوا رجالا
عظيمهم وسيّدهم قديما … جعلنا المخزيات له ظلالا