1874 Eintritt in die Antiquitätenhandlung „J. & S. Goldschmidt“, die sein Vater Jakob G. 1853 gegründet hatte und seit 1857 zusammen mit seinem Onkel Selig G. führte. Nach dem Tod des Vaters wurde G. zum Teilhaber. Seit dem Tod des Onkels war G. dann Alleininhaber der Firma, die unter seiner Leitung internationalen Ruf erlangte. Gründete Filialen in Berlin, Paris und New York. Wegen seiner Kenntnisse auf allen Gebieten des Kunsthandels war G. in Fachkreisen hochgeachtet. Hoflieferant des Zaren von Russland. Freund und Berater in Kunstfragen der Familie Rothschild.
Förderer sozialer und kultureller Belange. Unterstützer der Ffter Universität (mit einer Spende von 20.000 Mark). Vorstandsmitglied in zahlreichen Vereinen und Institutionen der jüdischen Wohlfahrtspflege, u. a. Vorsitzender des Gumpertz’schen Siechenhauses und der Minka von Goldschmidt-Rothschild-Stiftung. Stellvertretender Vorsitzender der jüdischen Gemeinde.
Seit 1908 Vorsitzender der Gesellschaft zur Erforschung jüdischer Kunstdenkmäler (als Nachfolger von Hallgarten), begründete G. mit deren Beständen als Basis das im März 1922 eröffnete Museum jüdischer Altertümer im ehemaligen Rothschild’schen Bankhaus in der Fahrgasse. 1930 fand er im Pariser Zweig der Familie Rothschild einen Geldgeber für den notwendigen Umbau des Hauses, den G. daraufhin veranlasste. Die Neueröffnung des Museums 1932 erlebte G. nicht mehr.