Aus einer altansässigen Ffter jüdischen Kaufmannsfamilie.
Sch. zeigte bereits in seiner Kindheit ein ausgeprägtes Interesse an naturwissenschaftlichen Fragen. Der liberalen Grundhaltung seines Vaters Moses Martin Sch. gemäß besuchte Sch. das städtische Gymnasium, wo er vor allem durch seine außergewöhnliche mathematische Begabung hervortrat. Sein Vater stellte daraufhin den erst zwölf Jahre alten Sch. 1885 dem Ffter Mathematiker und Astronomen Theobald Epstein vor. Die Anregungen aus dieser Begegnung nutzte Sch. in den folgenden Jahren zu weitreichenden physikalischen Überlegungen. Darüber hinaus drückte sich sein Interesse an der Astronomie durch den Bau eines Teleskops aus. Sch., der 1891 als Bester seines Jahrgangs die Abiturprüfung bestand, veröffentlichte im gleichen Jahr seine erste wissenschaftliche Arbeit unter dem Titel „Gleichgewichtsfiguren rotierender Massen” in den „Astronomischen Nachrichten”. Sch. ging dann zum Studium der Astronomie und Physik nach Straßburg. Nach seinem Militärdienst promovierte er bei Hugo Seeliger an der Münchner Universität („Elliptische Gleichgewichtsfiguren homogener rotierender Flüssigkeiten”, Phil. Diss., 1896) und wurde Assistent an der Kuffner’schen Sternwarte in Wien. Mit der Annahme seiner Habilitation („Beiträge zur photographischen Photometrie der Gestirne”, 1899) kehrte Sch. als Privatdozent an die Münchner Universität zurück. 1901 wechselte er an die Göttinger Universität, die ihn auch zum Direktor des dortigen Observatoriums ernannte. Nach großen wissenschaftlichen Erfolgen in Göttingen wurde Sch. 1909 nach Potsdam berufen, wo er am Astrophysikalischen Observatorium das Amt des Direktors übernahm. In seiner Arbeit an diesem international renommierten Forschungsinstitut war Sch. erneut außerordentlich erfolgreich. Der Erste Weltkrieg setzte dieser bis dahin so glänzend verlaufenen Karriere jedoch ein jähes Ende. Sch., der sich 1914 freiwillig zum Kriegsdienst meldete, starb nach seiner Rückkehr aus Russland an einer damals unheilbaren Hautkrankheit.
Seit 1912 Mitglied der Preußischen Akademie der Wissenschaften.
Ehrenmitglied des Physikalischen Vereins.
In seiner Göttinger Zeit lernte Sch. seine spätere Ehefrau Else Rosenbach (1879-1950) kennen. Aus der 1909 geschlossenen Ehe gingen drei Kinder hervor: Agathe, die als Professorin für Alte Philologie 1933 nach Neuseeland emigrierte, Martin, der als Professor für Astronomie in Princeton wirkte, und Alfred, der sich unter dem Druck der Rassenverfolgung durch den Nationalsozialismus 1944 das Leben nahm. Während Sch. seine Kinder taufen ließ, blieb er selbst bei seiner jüdischen Religionszugehörigkeit.
Karl-Sch.-Vorträge des Physikalischen Vereins in Ffm.