Родился в семье синагогального кантора Исаака-Иегуды Эбершта (Eberst) из немецкого города Оффенбаха. В 1802 году Эбершт переселился в предместье Кёльна и сменил фамилию на «Оффенбах». В Кёльне, в 1819 году, у него появился сын, получивший имя Якоб, но впоследствии сменивший его на французское «Жак». Очевидная музыкальная одарённость мальчика побудила отца привезти его в Париж (1833) для обучения в консерватории игре на виолончели.