Fünftes Kind des aus Fürth stammenden Wechselmaklers Abraham Wolf S. (1777-1865) und dessen Ehefrau Sara, geb. Beyfuss (auch: Beyfus, Beyfuß; 1787-1868). Verheiratet (seit 1854) mit Theodora S., geb. Bass (1836-1890), die aus der Ffter Bankiersfamilie stammte. Aus der Ehe gingen zwei Söhne, Emil Sigismund (1855-1932) und Carl Jacob, gen. Karl, S. (1859-1931), hervor.
Wie sein wesentlich älterer Bruder Siegmund S. (1813-1876) genoss auch Ruben S., benannt nach dem Großvater mütterlicherseits, eine gründliche kaufmännische Ausbildung durch den Vater. 1854 erhielt er die Zulassung als Wechselmakler. Im April 1856 gründeten die beiden Brüder S. ein eigenes Bankhaus unter der Firma „S. Sulzbach“. In den ersten Monaten wurde das Geschäft provisorisch von S.s Privatwohnung in der Allerheiligenstraße aus geführt, bis ein Haus in der Großen Eschenheimer Gasse als Firmensitz (1856-71) erworben werden konnte; später (1871-1904) war die Bank in der Bockenheimer Anlage 53/Ecke Opernplatz ansässig. Auch wenn traditionsgemäß der Name des Erstgeborenen in der Initiale des Firmennamens stand, so war doch Rudolph S. von Anfang an der Motor des Bankhauses, das erst später (1866) folgerichtig in „Gebr. Sulzbach“ umfirmierte.
Neue Geschäftsfelder erschloss S. etwa durch sein Engagement für die Gründung von Aktiengroßbanken. Bereits im Februar 1856 hatte er in einem Konsortium Ffter, Hamburger und Leipziger Bankiers an der Gründung der Mitteldeutschen Creditbank in Meiningen mitgewirkt; künftig gehörte er auch der Leitung dieses Instituts (einer Keimzelle der heutigen Commerzbank) an, das seinen Hauptsitz 1876 nach Ffm. verlegte. Weitere Bankgründungen, an denen S. beteiligt war, waren u. a. die Niedersächsische Bank in Bückeburg (1857), die Banque de Bruxelles und die German Bank of London (beide 1871). Eine wichtige Rolle spielte S. bei der Entstehung der Deutschen Bank im März 1870. Als größter Einzelaktionär zeichnete er – immerhin nur vier Jahre nach der preußischen Annexion Fft.s – für sein Haus mehr als ein Fünftel des gesamten Gründungskapitals der neuen, in Berlin ansässigen Bank. Bis zu seinem Tod war er im Verwaltungsrat bzw. (ab 1889) Aufsichtsrat des bald größten deutschen Geldinstituts vertreten.
Wie schon sein Vater konzentrierte sich S. beim Börsengeschäft weiterhin auf den Handel mit Eisenbahnaktien und Staatsanleihen; so vermittelte er nach dem amerikanischen Bürgerkrieg United States Bonds über eine ab 1865 zeitweilig in New York eingegangene Beteiligung. Großes Augenmerk richtete S. auf die Förderung neuer Technologien. So bildete er gemeinsam mit dem Berliner Bankier Jacob Landau und der Nationalbank für Deutschland ein Konsortium, das die Edison’schen Lizenzrechte für die Glühlampe erwarb, und finanzierte eine Studiengesellschaft, die die Verbreitung dieser Erfindung in Deutschland vorbereiten sollte. 1883 gründete er mit Hilfe einer Reihe Ffter Privatbankhäuser die „Deutsche Edison-Gesellschaft für angewandte Elektricität“, die vier Jahre später, nach einer Kapitalerhöhung unter wesentlicher Beteiligung der Deutschen Bank, in „Allgemeine Elektricitäts-Gesellschaft“ (AEG) umbenannt wurde. Der AEG blieb S. bis zu seinem Tod als stellvertretender Aufsichtsratsvorsitzender verbunden. Zu S.s Industrieinteressen zählten auch die Gewinnung von Kalisalzen als Düngemittel und die Herstellung von Aluminium, beides innovative Branchen, die er als einer der ersten finanziell förderte.
S., der aufgrund seiner Pionierleistungen in der Gründerzeit als einer der bedeutendsten und einflussreichsten Ffter Privatbankiers gelten kann, setzte sich in Ffm. für zahlreiche Unternehmungen ein, die die Infrastruktur der werdenden Großstadt verbesserten. So gehörte das Bankhaus Gebr. Sulzbach gemeinsam mit der Mitteldeutschen Creditbank zu den Finanziers der 1889 in Betrieb genommenen Ffter Waldbahn von Sachsenhausen nach Neu-Isenburg (mit Abzweigungen nach Niederrad und Schwanheim). Weitere Engagements S.s galten der Ffter Quellwasserleitungs-Gesellschaft, der Ffter Hotel Aktien-Gesellschaft (Ffter Hof) und der Providentia Ffter Versicherungs-Gesellschaft.
Von 1871 bis 1903 Mitglied, dann Ehrenmitglied der Ffter Handelskammer. Mitglied im Komitee für den Neubau der Börse, der 1879 eingeweiht wurde. 1892/93 Sachverständiger der Börsenenquetekommission im Reichstag. Ewiges Mitglied der Senckenbergischen Naturforschenden Gesellschaft.
1899 Komturkreuz I. Klasse des Herzoglich Sachsen-Ernestinischen Hausordens. 1902 Roter Adlerorden IV. Klasse.
Unmittelbar nach S.s Tod 1904 etablierten seine Söhne Emil und Dr. Karl S. die (bis 1941 bestehende) Rudolph-S.-Stiftung der Ffter Handelskammer, die mit einem Kapital von 100.000 Mark ausgestattet war. Stiftungszweck war die Förderung begabter junger Kaufleute in ihrer Ausbildung und die Unterstützung hilfsbedürftig gewordener ehemaliger Besucher der Ffter Börse. Auch die von Karl S. 1912 eingebrachte Dotation in Höhe von 250.000 Mark zur Gründung der Ffter Universität speiste sich noch aus S.s Mitteln.