S. entstammte der Ehe eines Harfenisten und Komponisten mit einer Sängerin.
Aufgewachsen in Gebweiler. Schüler des Spaniers Manuel Garcia am Pariser Konservatorium und in London. 1848 erste Erfolge als Konzertsänger in Basel. Von 1852 bis 1853 Engagement als Zweiter Bariton an der Mannheimer Hofbühne. Konzertreisen durch Deutschland und Österreich (seit 1854) begründeten seinen Ruf als Lied- und Oratoriensänger. 1854 Bekanntschaft mit Clara Schumann, der er bis zu ihrem Tod (1896) freundschaftlich verbunden blieb. Von 1856 bis 1859 Bühnensänger an der Opéra Comique in Paris. Wieder Konzertreisen. Von 1863 bis 1867 Dirigent der Hamburger Philharmonischen Konzerte. 1869/70 Kammersänger in Stuttgart. Konzertreisen, u. a. mit Clara Schumann, Johannes Brahms und Josef Joachim. Auch mit Brahms verband S. eine langjährige Freundschaft. Von 1874 bis 1878 Dirigent des Stern’schen Gesangvereins und der Sing-Akademie in Berlin. 1878 als Gesanglehrer an das soeben gegründete Hoch’sche Konservatorium in Ffm. berufen. Konflikte mit dem Konservatoriumsleiter Joachim Raff bewogen ihn schon nach eindreiviertel Jahren, sein Lehramt niederzulegen. Nach Raffs Tod im Juni 1882 bemühte sich Bernhard Scholz, der neue Direktor des Konservatoriums, um S.s Wiederberufung. Seine Anstellung war einer der Hauptgründe für das Ausscheiden der „fortschrittlichen“ Lehrkräfte am „Hoch“, die daraufhin das Raff-Konservatorium gründeten. Schon im April 1884 beendete S. seine neuerliche Lehrtätigkeit am Hoch’schen Konservatorium, um sich ganz seinem eigenen Musikinstitut, der bereits 1880 von ihm gegründeten Julius S.-Gesangschule, zu widmen. Hier wirkte er bis zu seinem Tod. In den „populären Sonntagskonzerten“ (1892-96) machten S. und seine Schüler das Ffter Publikum mit mehrstimmigen Vokalwerken bekannt. Zahlreiche bedeutende Sänger gingen aus S.s Schule hervor. S. setzte sich zeitlebens für das Liedschaffen von Schubert, Schumann und Brahms ein, als dessen erster großer Interpret er zu gelten hat. Auch sein Oratoriengesang war richtungweisend.
Gelegentlich Mitarbeiter des Feuilletons der FZ. Veröffentlichte eine „Gesangs-Methode“ (1884) und eine „Gesangs-Technik“ (1886).
Nachlass und Manuskript einer Bearbeitung des Schubert-Liedes „Memnon“, das Brahms auf Wunsch S.s 1862 für Singstimme und großes Orchester instrumentiert hatte, in der UB Ffm.