József főherceg 1776. március 9-én született Firenzében, az akkor a Habsburg Birodalom részét képező Toszkánai Nagyhercegség fővárosában, a későbbi II. Lipót császár fiaként és I. Ferenc császár öccseként. 1795-ben egészen fiatalon, 19 évesen lett a Magyar Királyság nádora (azaz a király helyettese), és a pozíciót több mint fél évszázadon át töltötte be. Ő volt a Habsburg családból jövő második nádor, a pozícióban őt megelőző bátyja után, valamint az utolsó előtti magyar nádor, miután a pozíciót az ő halálát követően már csak egy évig töltötték be.
