Sohn von Jacob Gustav F. und dessen Ehefrau Florence, geb. Creizenach (1832-1894). Enkel von Michael Creizenach. Bruder von Max F. Verheiratet (seit 1884) mit Ida Lina Auguste F., geb. Ebeling (1856-1934), Tochter des späteren Stadtkanzleidirektors Wilhelm Carl Friedrich Ebeling (1825-1904). Vater von Jacob F., Max F.-Thebesius und Hans F.
Schüler der Musterschule und des Ffter Gymnasiums (bis 1872). Studium der Rechtswissenschaft in Heidelberg und Berlin. 1880 Niederlassung als Rechtsanwalt in Ffm. F. übernahm u. a. die Verteidigung von Arbeitern, die wegen Delikten aufgrund des Sozialistengesetzes angeklagt waren.
Von 1884 bis 1915 besoldeter Stadtrat für soziale Angelegenheiten und Leiter des Ffter Armen- und Waisenamts, eines Vorläufers des heutigen Sozialamts. F.s kommunalpolitisches Engagement war stärker von einer sozialreformerischen Komponente geprägt als von einem sozialfürsorgerischen Ansatz, wie ihn etwa Wilhelm Merton vertrat. F.s Bestreben war es, die Armenpflege langfristig überflüssig zu machen. Er ging davon aus, dass die Ungleichheit in der Gesellschaft ihre Ursache im Arbeitsrecht habe. Sein Ziel war es, das im Arbeitsvertrag begründete Gewaltverhältnis in eine Rechtsbeziehung gleicher Bürger zu verwandeln. Zum Dreh- und Angelpunkt seiner sozialreformerischen Politik machte er deshalb das auf seine Initiative hin 1886 geschaffene gewerbliche Schiedsgericht. Diese Institution diente der Klärung arbeitsrechtlicher Streitigkeiten und fungierte im Falle von Arbeitskämpfen als Einigungsstelle. Sie war paritätisch aus Arbeitgebern und Arbeitnehmern besetzt und besaß eine Beratungsfunktion bei sozialpolitischen Vorhaben der Stadt. Damit band F. erstmals in Ffm. die organisierte Arbeiterschaft in die kommunale Sozialpolitik ein. 1893 gründete F. den Verband süddeutscher Gewerbegerichte, der sich später zu einem deutschen Verband erweiterte.
F. war maßgebliches Gründungsmitglied (1890) und Mitglied im Vorstand (bis 1915) des Ausschusses für Volksvorlesungen, auf den die heutige Volkshochschule zurückgeht. Durch die paritätische Organisationsform gelang ihm auch hier die Einbeziehung der Arbeitervereinigungen. Mit der Gründung des Ausschusses setzte F. die Abhaltung unentgeltlicher Vorträge und verbilligter Theater- und Opernbesuche durch. Die Angleichung des Bildungsstandards half seiner Meinung nach bei der Überwindung der Klassenspaltung. Nach dem gleichen Muster errichtete die Stadt 1895 die städtische Arbeitsvermittlungsstelle, vergleichbar dem heutigen Arbeitsamt. Vorausgegangen waren eingehende Beratungen des Sozialen Kongresses, den F. in Ffm. unter Beteiligung von namhaften Sozialpolitikern und Gewerkschaftern initiiert hatte. Bei der Realisierung der Arbeitsvermittlungsstelle überwand F. Widerstände sowohl vonseiten der Aufsichtsbehörden als auch von Teilen der Ffter Arbeiterbewegung.
Mit Ludwig Opificius stand F. ein bedeutender Fürsprecher des kommunalen sozialreformerischen Engagements innerhalb der Ffter Arbeiterbewegung zur Seite. Wesentliche bürgerliche Stütze seiner Initiativen war das Freie Deutsche Hochstift. Entscheidenden Rückhalt für seine sozialpolitischen Neuerungen besaß F. bei den Oberbürgermeistern Miquel und Adickes. Das Wirken F.s hatte maßgeblich Anteil am Zustandekommen einer klassenübergreifenden Kooperation zwischen Bürgertum und Arbeiterschaft in Ffm. 1890 betrieb F. gemeinsam mit Miquel die Gründung der privaten Aktienbaugesellschaft für kleine Wohnungen mit dem Ziel gemeinnützigen Wohnungsbaus für minderbemittelte Familien. Auf fürsorgerischem Gebiet schuf F. wichtige Institutionen, u. a. Verein für Rekonvaleszenten-Anstalten, Witwerheim, Asyl für Obdachlose. 1892 gründete F. gemeinsam mit seinem Bruder, dem Arzt Prof. Max F., und dessen Frau Helene, gen. Hella, den Hauspflegeverein, der bei Erkrankungen einer Mutter die Betreuung der Kinder und des Haushalts übernahm. Mitbegründer der „Centrale für private Fürsorge“ (1899). F. machte zahlreiche Stiftungen sozialen Zwecken zugänglich.
Von 1886 bis 1915 Mitglied des Kommunallandtags in Wiesbaden und des Provinziallandtags von Hessen-Nassau (DVP, ab 1910 Fortschrittliche Volkspartei). Von 1908 bis 1915 Mitglied im Preußischen Abgeordnetenhaus (DVP/Hospitanz bei der Freisinnigen Volkspartei, ab 1910 Fortschrittliche Volkspartei).
Mitglied des Freien Deutschen Hochstifts und Vorsitzender von dessen volkswirtschaftlicher Sektion.
Zahlreiche Veröffentlichungen zu praktischen Fragen der Sozialpolitik in Fachzeitschriften, häufig in den „Süddeutschen Monatsheften“. Themenschwerpunkte waren Bildungsfragen, Arbeitsvertrag, Gewerbegerichte. Monographie „Zur Kritik des Arbeitsvertrags“ (1901). Sammlung wichtiger Aufsätze F.s und Verzeichnis seiner Schriften in „Karl F.’s soziales Vermächtnis“ (1922).
Die frühere Karl-F.-Straße im Gallusviertel wurde nach 1933 umbenannt. Nach dem Zweiten Weltkrieg wurde wieder eine Straße, jetzt in einem Block der ABG für kleine Wohnungen in Bornheim, nach F. benannt.