Sohn eines Kaufmanns. Verheiratet (seit 1872) mit Auguste H., geb. Ettlinger (1851-1919). Acht Söhne und drei Töchter. Zu den Söhnen zählten der Rabbiner Jakob H., der Orientalist Josef H. und der Bildhauer Leo H.
Ausbildung an den Talmudschulen in Ujhely, Verbo und Eisenstadt. Studium der Philosophie und orientalischen Sprachen an den Universitäten Wien, Budapest und Berlin. 1871 Promotion in Tübingen. Bereits seit 1870 Lehrer an der jüdischen Religionsschule der trennungs-orthodoxen Gemeinde Adass Jisroel in Berlin. Seit 1871 Rabbiner, zunächst in Lauenburg/Pommern, dann (1874-78) in Gnesen/Posen. 1878 erhielt H. einen Ruf als gesetzestreuer Dayan (Rabbinats-Assessor) an die Ffter Israelitische Gemeinde. Er sollte zwar weitgehende Vollmachten für ein Ritualwesen im orthodoxen Sinne bekommen, doch er lehnte den Ruf ab. Er wollte nur nach Ffm. wechseln, falls seine weitergehenden Bedingungen erfüllt würden: H. wollte als Voll-Rabbiner mit dem gleichen Status wie der liberale Rabbiner eingestellt werden; er forderte den Bau einer Synagoge mit konservativem Ritus und wollte das Ritualwesen einer autonomen Kommission („Ritualkommission“) unterstellen. Nach einigem Zögern akzeptierte der Vorstand der Israelitischen Gemeinde H.ens Bedingungen, und H. kam als konservativer Gemeinderabbiner nach Ffm. Bereits 1882 konnte die von ihm geforderte neue Synagoge am Börneplatz eingeweiht werden. Zudem eröffnete er eine Israelitische Religionsschule (1879), und er richtete u. a. eine Jeschiwa und ein Tauchbad ein; auch vertrat er die jüdischen Interessen in der städtischen Schulverwaltung. Im Gegensatz zur Trennungs-Orthodoxie des Judentums, die in Ffm. durch Samson Raphael Hirsch und später durch Salomon Breuer vertreten wurde, begründete H. eine autochthone altgläubige Richtung innerhalb der Israelitischen Gemeinde. Als Vertreter dieser Gemeinde-Orthodoxie wurde er zur Symbolfigur für die organisatorische Einheit des Judentums in Deutschland. Über Fft.s Grenzen hinaus war H. eine anerkannte halachische Autorität (vgl. Auslegung des talmudischen Rechts in seinem Werk „Matté Levi“, 2 Bde., 1891).
Mitbegründer des Vereins für jüdische Geschichte und Literatur in Ffm. Reorganisator (1896) und stellvertretender Vorsitzender des Allgemeinen Rabbiner-Verbands in Deutschland. Führende Tätigkeit in zahlreichen weiteren gemeinnützigen jüdischen Vereinen, u. a. in der 1897 von ihm mitbegründeten Vereinigung traditionell-gesetzestreuer Rabbiner Deutschlands, im Hilfsverein der deutschen Juden, im Verband der deutschen Juden und in der Großloge B’nai B’rith, deren dritte Loge in Ffm. seit der Gründung 1922 bis 1933 seinen Namen trug.
Veröffentlichungen zur Geschichte der Juden in Ffm.: „Ffter Rabbinen“ (1882-85, Neudruck 1969), „Jüdische Ärzte in Ffm.“ (1886), „Zur Statistik der jüdischen Bevölkerung im alten Fft.“ (1896), „Die Ffter Rabbinerversammlung vom Jahre 1603“ (1897) und „Die Inschriften des alten Friedhofs der israelitischen Gemeinde“ (1901).