Avec Paavo Nurmi, il imposa sa domination à ses adversaires et remporta une poignée de médailles d’or durant une période qui ne se reproduisit pas avant l’arrivée des coureurs africains quelques décennies plus tard.
Certes Nurmi, la machine à courir, gagna neuf médailles d’or en tout aux Jeux de 1920, 1924 et 1928, mais le palmarès de Ritola n’en fut pas moins impressionnant. Coureur nerveux et polyvalent, Ritola déclina l’offre de prendre part aux Jeux de 1920 à Anvers mais, après plusieurs années d’entraînement aux États-Unis, il se sentit apte à participer à ceux de 1924.
À Paris, ce « Finlandais volant » grava son nom dans les annales olympiques par une victoire à l’arraché dans le 10 000 m avec un temps record. Vint ensuite le 3 000 m steeple dans lequel il se classa premier également après un parcours fascinant sur une piste circulaire de 500 m dans la capitale française. Au lieu des barres et autres sauts de ruisseaux qu’affrontent habituellement les coureurs actuels, les obstacles présentés étaient d’un autre ordre. En effet, certaines des haies que les coureurs eurent à survoler ressemblèrent davantage à celles que l’on rencontre dans les steeples hippiques faites de feuillage, de troncs et de branches.
D’autres étaient plus proches de la clôture de jardin tandis que les mares à franchir étaient si profondes que les concurrents avaient de l’eau jusqu’aux genoux, ce qui ne manqua pas de provoquer des enchevêtrements confus.
Mais aucun obstacle n’arrêtait Ritola. Après avoir couru la plus indolente des demi-finales, il s’empara de la course et cloua sur place ses adversaires avec un nouveau record olympique de 9’33’’6.
Ritola contribua également à la médaille d’or finlandaise dans le 3 000 m et le cross par équipe avant de décrocher deux médailles d’argent dans le cross individuel et le 5000 m dont le titre olympique ne lui revint que quatre ans plus tard aux Jeux à Amsterdam.