وعاش إبراهيم بعد ذلك إلى سنة اثنتين وثلاثين، فقتل فيمن قتل من بني أمية في وقعة السفاح.
وفي تاريخ ابن عساكر سمع إبراهيم من الزهري، وحكى عن عمه هشام، وحكى عنه ابنه يعقوب، وأمه أم ولد، وهو أخو مروان الحمار لأمه.
وكان خلعه يوم الاثنين لأربع عشرة خلت من صفر سنة سبع وعشرين ومائة.
وقال المدائني: لم يتمّ لإبراهيم أمر، كان قوم يسلمون عليه بالخلافة، وقوم يسلمون عليه بالإمارة، وأبى قوم أن يبايعوا له، وقال بعض شعرائهم:
نبايع إبراهيم في كل جمعة … ألا إن أمرا أنت واليه ضائع
وقال غيره: كان نقش خاتم إبراهيم «إبراهيم يثق باللّه».