Sohn des Konsistorialrats Dr. Philipp J. (1828-1901).
Schüler der Musterschule (1866-72) und des Ffter Gymnasiums (1872-79). Studium in Leipzig, Freiburg, Berlin und Marburg. Militärdienst in Ffm. Von 1884 bis 1886 Mitarbeiter der Edition der „Deutschen Reichstagsakten“ durch die Historische Kommission bei der Bayerischen Akademie der Wissenschaften. Von 1886 bis 1887 Bibliothekar und Verwaltungsschreiber des Freien Deutschen Hochstifts, dem er schon seit 1883 als Mitglied angehörte. Goetheforscher. Hermann Grotefend gewann J. als Mitarbeiter für den zweiten Band („Ffter Chroniken und annalistische Aufzeichnungen der Reformationszeit“, erschienen 1888) der „Quellen zur Ffter Geschichte“. Als Nachfolger Grotefends seit 1888 Leiter des Stadtarchivs Ffm. J. wirkte im Sinn seines Vorgängers fort und bemühte sich, das Archiv durch systematische Ordnung und Verzeichnung der Bestände für die Allgemeinheit nutzbar zu machen. Er baute das Ffter Stadtarchiv zum besteingerichteten und bestverzeichneten Archiv Deutschlands aus. In seinem Buch „Das Historische Archiv der Stadt Ffm. Seine Bestände und seine Geschichte“ (1896; Neuaufl. u. d. T. „Das Ffter Stadtarchiv, seine Bestände und seine Geschichte“ in der Reihe „Veröffentlichungen der Historischen Kommission der Stadt Ffm.“, Bd. I, 1909) gab er einen Überblick über die Geschichte und die Bestände des Stadtarchivs. In den von Grotefend begonnenen „Inventaren des Ffter Stadtarchivs“, deren Veröffentlichung J. fortsetzte (Bde. II-IV, 1889-94), fasste er die Regesten aller die auswärtige Politik Fft.s betreffenden Urkunden und Aktenbestände vor 1500 zusammen.
Seit 1883 Mitglied, seit 1886 Vorstandsmitglied, seit 1888 Schriftführer und Bibliothekar, von 1893 bis 1913 Erster Vorsitzender, dann Ehrenmitglied des Ffter Vereins für Geschichte und Altertumskunde, dessen Publikationen (u. a. das „Archiv für Fft.s Geschichte und Kunst“, die Vierteljahresschrift „Alt-Fft.“ und die Hefte „Mitteilungen über Römische Funde in Heddernheim“) von J. herausgegeben wurden. Mitbegründer und Vorsitzender des Vereins für das Historische Museum. Mitbegründer (1906) der Historischen Kommission der Stadt Ffm. Die Historische Kommission gab u. a. die Reihe „Ffter Lebensbilder“ heraus, wofür J. andere Wissenschaftler und Publizisten zur Mitarbeit anregte. Sachverständiger der Straßenbenennungskommission. Mitbegründer und Sachverständiger der Ausgrabungskommission. Mitarbeiter historischer Fachpublikationen, u. a. des „Archivs für Fft.s Geschichte und Kunst“, der „Ffter Historischen Beiträge“, des „Goethe-Jahrbuchs“, des „Jahrbuchs des Freien Deutschen Hochstifts“ und der „Allgemeinen Deutschen Biographie“. Freier Mitarbeiter von Ffter Tageszeitungen, u. a. FZ, Ffter Nachrichten und Didaskalia.
Zahlreiche weitere Fachveröffentlichungen, u. a. „Zur Baugeschichte des Römers und der mit ihm verbundenen Nebengebäude (...)“ (mit Otto Cornill, 1889), „Die Ehrenbürger der Reichsstadt und der Freien Stadt Ffm.“ (1890), „Die Baudenkmäler in Ffm.“ (mit Carl Wolff und Julius Hülsen, 3 Bde., 1896-1914), „Goethes Briefwechsel mit Antonie Brentano 1814-1821“ (1896), „Der Darmstädter Hof in Ffm.“ (mit Friedrich Sander, 1899), „Die englische Flüchtlings-Gemeinde in Ffm. 1554-1559” (1910), „Ffter Hochschulpläne 1384-1868“ (Ffter Historische Forschungen NF 1, 1915), „Die Ffter Familie Gogel 1576-1918“ (1920), „Rückblick auf die Geschichte des Ffter Gymnasiums 1520-1853“ (1920) und „Das Haus Braunfels auf den alten Ffter Reichsmessen“ (Festgabe des Ffter Messamts 2, 1921).
Porträt (von Robert Forell) im HMF. Büste in der „Ehrenhalle der Ffter Wissenschaft“ in der Stadtbibliothek (1934).
J.straße in Bockenheim.