国际奥委会于１９２４年正式承认前中华全国体育协进会为中国奥林匹克委员会。在１９２４年到１９４９年期间，中国一共参加过３次奥运会。由于政府腐败，国运日衰，旧中国的体育运动得不到支持和发展，３次参赛皆无建树。
新中国成立后，祖国的体育事业有了极大的发展。原中华体育协进会改组为中华全国体育总会，并于１９５２年派出了体育代表团参加了第１５届奥运会。
可是，由于某些国家的阻挠，国际奥委会对于中华全国体育总会在该会的合法地位问题一直不予解决。１９５８年中华全国体育总会正式宣布断绝同国际奥委会的一切关系。
直到１９７９年，随着我国政治地位和体育运动水平的提高，国际奥委会经全体委员的表决，通过了恢复中国代表权的决议。
１９８０年第２２届奥运会在莫斯科举办。由于苏联入侵阿富汗事件，中国没有参加该届奥运会。１９８４年第２３届奥运会上，中国代表团参加了２１个项目中的１６个项目比赛，一举获得１５枚金牌、８枚银牌、９枚铜牌，打破了“零”的纪录，奖牌总数列第四位。
中国以自己的实力震惊了世界，从而证实了中国可以也必将成为世界体育强国。