Karl Schäfer est né à Vienne non loin de la première patinoire artificielle construite en 1909 par Eduard Engelmann. Il est repéré dès ses 11 ans par les entraîneurs qui y officient. Médaillé de bronze en 1927 dans les championnats d’Europe et du monde, il ne va pas faire en 1928 à l’âge de 18 ans que se classer 4e de la compétition de patinage artistique des Jeux de Saint-Moritz. Il va également disputer les Jeux d’été à Amsterdam en natation où il atteindra les demi-finales du 200m brasse.
En 1929, il est médaillé d’argent lors des Mondiaux de patinage artistique à Londres, derrière le triple champion olympique suédois Gillis Grafström. En 1930 à New York, il gagne sa première médaille d’or mondiale et la conserve en 1931 à Berlin. Déjà vainqueur de trois titres européens sans interruption depuis 1929, il remporte le quatrième à Paris un mois avant les Jeux de Lake Placid, et se présente donc en favori sur la glace de l’arène olympique le 8 février 1932.
Douze concurrents représentant neuf nations participent à la compétition, don le triple tenant du titre Gillis Grafström, 38 ans, qui fait une erreur inhabituelle lors des imposées, alors que Karl Schäfer réalise une prestation parfaite pour prendre la tête du concours.
Les positions ne changent pas lors du libre. Schäfer est impeccable, il ne commet aucune erreur, fait preuve d’un superbe sens artistique et d’une technique sans faille. Cinq juges sur sept lui donnent la première place : il remporte l’or devant Grafström qui atteint pour sa part le total record de quatre médailles olympiques en patinage artistique. Le Canadien Montgomery Wilson termine en bronze.
Karl Schäfer va conserver son titre olympique en 1936 à Garmisch, année où il réalise un véritable Grand Chelem en étant champion du monde pour la 7e fois, champion d’Europe pour la 8e fois et champion d’Autriche pour la 7e fois également, avant de raccrocher les patins et de devenir ensuite entraîneur, dans son pays et aux Etats-Unis jusqu’à la fin de sa vie en 1976.