Le C.I.O. avait accordé les Jeux olympiques de 1940 à la ville de Tokyo, mais la Deuxième Guerre mondiale avait forcé à leur annulation. Vingt-quatre ans plus tard, les dirigeants japonais voulurent montrer la puissance du Japon, économique cette fois. Le gouvernement nippon ne lésina pas sur la dépense et investit d'énormes capitaux dans la construction d'installations sportives ultramodernes.
Avant les Jeux, le C.I.O. prit une décision majeure, celle d'expulser l'Afrique du Sud de la famille olympique en raison de sa politique d'apartheid.
Une fois les compétitions amorcées, tous les yeux se braquèrent sur les nageurs. L'Américain Don Schollander devint le premier nageur à récolter quatre médailles d'or au cours de la même olympiade. Son compatriote Steve Clark ne fut pas en reste car il gagna trois médailles d'or. Chez les femmes, l'Australienne Dawn Fraser remporta le titre au 100 mètres style libre pour les troisièmes Jeux consécutifs. Les Jeux de Tokyo furent les derniers de Fraser. Au cours de sa carrière, cette grande dame de la natation a mérité quatre médailles d'or et quatre médailles d'argent.
Le Néo-Zélandais Peter Snell triompha au 800 mètres et au 1 500 mètres, et fut l'unique double médaillé d'or du côté masculin en athlétisme. L'Éthiopien Abebe Bikila conserva son titre au marathon, alors que l'Américain Bob Hayes gagnait le 100 mètres et que Henry Carr des États-Unis s'imposait au 200 mètres. Hayes et Carr ont tous les deux fait carrière au football professionnel américain par la suite. Toujours en athlétisme, les soeurs Tamara et Irina Press, de l'U.R.S.S., gagnèrent trois médailles d'or. Tamara triompha au lancer du disque et au lancer du poids, alors qu'Irina remportait le pentathlon.
Une autre grande performance fut celle de la Tchèque Vera Caslavska, qui obtint trois médailles d'or en gymnastique. Pour la première fois depuis 1952, les États-Unis terminèrent les premiers au classement avec 90 médailles, contre 86 pour l'U.R.S.S.