יוסף נולד בברלין ב-1917 למשפחה ברלינאית. עד 1933 למד ב"גימנזיום על שם ביסמרק" בברלין, ולאחר שהיטלר עלה לשלטון הבינו הוריו כי עליהם לעזוב את גרמניה. הוריו עלו ארצה והוא נשלח ללונדון. הוא למד שם עד ינואר 1934 וקיבל תעודת בגרות של אוניברסיטת לונדון. ב-1934 עלה יוסף ארצה, התקבל לבית הספר "כדורי" וסיים במחזור א' עם יגאל אלון, מוקדם מהצפוי, לאחר שביה"ס נסגר בגלל המצב בארץ. ב-1937 הציע אביו שייקח שנת חופש ללימודים לפי בחירתו ויוסף פנה ללמוד מוסיקה ועברית, שני תחומים שהיו מרכזיים בילדותו. אביו רצה שישתלב לאחר מכן בעסק המשפחתי שלהם לייצור מכשירי חשמל, אך ליוסף היו תכניות אחרות; בשנת 1938 עבד כפועל חקלאי אצל נחמקין בנהלל למשך שנה. ב-1940 התגייס לפלמ"ח ועבר אימונים במשמר העמק וקורס מכי"ם בג'וערה. שנה לאחר מכן התמנה כמ"מ והועבר אל המחלקה הגרמנית, בפיקודו של שמעון אבידן, שבה הוכשר להתמודד מול הצבא הגרמני. בשנת 1944 שוחרר מהפלמ"ח באישור מיוחד של רמטכ"ל ה"הגנה", משה סנה. ברביבים היה אחראי לביטחון הנקודה והגנה מפני הלגיון הערבי, וכן שמירה על יחסים הוגנים עם השכנים הבדואים. חוץ מהגנה ושמירה על האזור פעל להקמת רביבים ויישוב הנגב כולו, ונבחר ללוות את נציגי האו"ם ולשכנע אותם שהנגב הוא חלק ממדינת ישראל. ב-1947 הגיע עם רחל, אשתו הראשונה, ושני הילדים אל קיבוץ אלונים, והשתלב בענף עצי הפרי. ב-1958 נפטרה רחל. מאוחר יותר התחתן עם דייזי והם הפכו למשפחה מורחבת בת 8 נפשות, שכיום מונה 21 נכדים ושמונה נינים. ב-1963 עברו להתגורר בקיבוץ גבעת ברנר; סבא השתלב בענף הנשירים. אסון נוסף פקד את המשפחה ב-1972 רותי, בתם, חלתה ונפטרה. ב-1984, כשהיה בן 65 קיבל תואר של דוקטור מהפקולטה לחקלאות ברחובות. לאחר מכן המשיך לעסוק במחקר חקלאי עם פרופסור בן-עמי ברבדו, ומשנת 1986 עבד בקיבוץ עם עופר הוכברג בגידול צמחי בר חסכוניים במים. אהבתו למוסיקה, לשירה במקהלה ולכתיבה ליוו אותו במשך כל המסע המרתק של חייו.