Sohn des Bankiers Johann Christian G. (1745-1802) und dessen Ehefrau Maria Magdalena, geb. Moors. Die bedeutende Kunst- sowie Insekten- und Schmetterlingssammlung des Vaters (u. a. mit Teilen der Sammlung von Maria Sibylla Merian) ging später auf den Sohn über.
Schüler des Ffter Gymnasiums. Kaufmannslehre, teilweise im Ausland. Auf Einladung des Königspaars von Neapel, das anlässlich der Krönung Leopolds II. (1790) in G.s Elternhaus wohnte, bereiste G. 1793/94 erstmals Italien. Studium der Geschichte und Staatswissenschaften in Jena. Seit 1793 mit Goethe befreundet, weilte G. häufig in Weimar. 1797 erneute Italienreise und Eintritt in neapolitanische Staatsdienste. 1798 Gesandter Neapels auf dem Kongress von Rastatt. G. blieb dann in Deutschland und zog sich ins Privatleben zurück. Bis 1802 regelmäßiger Gast am Hof in Weimar. Von Goethe und Herder angeregt, schrieb er seine „Reise durch Österreich und Italien“ (3 Bde., 1803). Nach des Vaters Tod (1802) lebte G. zumeist in Ffm., daneben Sommer- und Landsitze in Kronberg, Homburg und Soden. 1817 hessen-homburgischer Bundestagsgesandter. 1818 als Gesandter Hessen-Homburgs in England.
Die von ihm bedeutend erweiterten väterlichen Sammlungen musste G. ab 1820 aus Geldmangel verkaufen. Sie gingen – nach gescheiterten Verhandlungen mit seiner Heimatstadt Ffm. – gegen eine jährliche Leibrente größtenteils an den nassauischen Staat und bilden den Grundstock des heutigen Museums Wiesbaden. Aufgrund dieses Geschäfts wurde G. 1821 ausländischer Direktor des neu gegründeten Vereins für nassauische Altertums- und Geschichtsforschung. Seine Sammlung von Ffter Ansichten stiftete er der Ffter Stadtbibliothek.
Neben Beiträgen in verschiedenen zeitgenössischen Blättern veröffentlichte G. vor allem poetische Landschafts- und Reisebeschreibungen, aber auch Ovid-Übersetzungen. Hauptwerke: „Die Heilquellen am Taunus“ (1813/14), „Die Rheingegenden von Mainz bis Cölln“ (1819, engl. 1820), „Die Lahn- und Maingegenden von Embs bis Ffm.“ (1821) sowie die Gedichte „Fft.s Erhaltung und Rettung“ (1795) und „Säculargedicht“ (1800).
Porträtiert von Angelika Kauffmann.
Briefwechsel mit Goethe. Nachlass im Freien Deutschen Hochstift.
G.straße in Heddernheim.