كان رضي الله عنه يتمنّى الشهادة في سبيل الله ويدعو الله بأن ينالها وكان يردد قوله: "اللهم ارزقني شهادة في سيبلك واجعل موتي في بلد رسولك"، وفي يوم من الأيام وبينما كان يصلّي الفجر في المسجد قام أبو لؤلؤة المجوسي بطعنه في ظهره ممّا أدّى إلى استشهاده ليلة الأربعاء من سنة ثلاث وعشرين للهجرة ولمّا علم أنّ الذي طعنه ليس مسلماً حمِد الله أنّ الذي طعنه ليس رجلاً سجد لله تعالى ودفن جوار الرسول صلى الله عليه وسلم وأبو بكر الصديق في الحجرة النبوية الموجودة في المسجد النبوي الشريف في المدينة المنورة