יוסי נחטף לעזה יחד עם אחיו אלי שרעבי שעדיין בשבי, ועם אופיר אנגל, בן הזוג של בתו יובל, ששוחרר בעסקת חטופים אחרי 54 ימים בעזה. 102 ימים לאחר החטיפה, משפחתו של יוסי עודכנה כי הוא נרצח בשבי. הוא הותיר אחריו שלוש בנות - יובל, אופיר ואורן - ואת ונירה אשתו.
צה"ל מעריך כי שרעבי נהרג בעקבות תקיפה אווירית של מבנה סמוך לנקודה שבה הוחזק יחד עם איתי סבירסקי מבארי, שנרצח על-ידי חמאס כמה ימים לאחר מכן; ולצד נועה ארגמני, שחולצה בהמשך מדירה בנוסייראת.