Sohn von Abraham G. und dessen Ehefrau Emilie, geb. Oppenheim (1808-1860). Bruder von Berthold G.
Schulzeit in Ffm. (vgl. G.s Schilderung in einer Artikelserie in den FN, Oktober 1918). Studium der Geschichts- und Literaturwissenschaft in Heidelberg, Göttingen, Bonn und Paris. 1870 ging G. mit seinem Vater nach Berlin und beteiligte sich dort an dessen Gründung der „Hochschule für die Wissenschaft des Judentums“ (eröffnet 1872). Seit seiner Habilitation (1873) Dozent, seit 1880 außerordentlicher Professor an der Berliner Universität.
Mitarbeit im Freien Deutschen Hochstift. Gründer (1902) und Vorsitzender der Gesellschaft für Theatergeschichte.
Vielseitige schriftstellerische Tätigkeit als Autor und Herausgeber sowie als Gründer, Leiter und Organisator zahlreicher Periodica. Fachveröffentlichungen, vor allem zur Geschichte der nachmittelalterlichen Epoche (Renaissance, Humanismus, Reformation), zur Geschichte des Judentums und zur Goethe-Forschung. Neben einzelnen Schriften zur Goethe-Philologie („Aus Alt-Weimar“, 1897; „Goethe in Ffm. 1797“, 1899; „Goethes Leben und Schaffen“, 1909, u. a.) gab er Goethes Gespräche mit Eckermann heraus (1902) und war Herausgeber des von ihm gegründeten Goethe-Jahrbuchs (1880-1913, seit 1885 im Auftrag der Goethe-Gesellschaft). Zudem literaturhistorische Arbeiten über Bettine von Arnim, Börne, Chamisso, Karoline von Günderrode, Iffland, Petrarca, Raabe, Reuchlin, Schiller u. a. Seine wichtigsten Werke zur Geschichte des Judentums: „Geschichte der Juden in Berlin“ (2 Bde., 1871), „Die deutsche Literatur und die Juden“ (1910); zudem Arbeiten über Mendelssohn und Zunz. Verfasser einer Biographie (1910) und anderer Schriften über seinen Vater Abraham G. und dessen Werk. Schriftleiter der „Zeitschrift für die Geschichte der Juden in Deutschland“ (1886-92) und der „Allgemeinen Zeitung des Judentums“ (seit 1912).