Malaysia mula-mulanya menyertai Sukan Olimpik pada tahun 1956, dan semenjak itu sentiasa menghantar ahli sukan

ke setiap temasya Sukan Olimpik Musim Panas, kecuali apabila menyertai boikot Sukan Olimpik 1980. Malaysia tidak pernah sesekali menyertai Sukan Olimpik Musim Sejuk. Selaku Persekutuan Tanah Melayu, pasukan negara bertanding sebagai Malaya (MAL) untuk Sukan 1956 dan 1960 Borneo Utara menghantar pasukan sendiri ke Sukan 1956, sementara Singapura turut bertanding di Olimpik dari tahun 1948 hingga 1960. Setelah ketiga-tiga jajahan British ini membentuk gagasan Malaysia yang merdeka pada tahun 1963, pasukan negara bertanding dengan nama itu buat julung kalinya di Sukan Olimpik Musim Panas 1964. Kemudian, Singapura merdeka dari Malaysia pada 1965 lalu sekali lagi bertanding sebagai Singapura from 1968 onwards. Setakat ini, jaguh sukan Malaysia memenangi sebanyak empat pingat Olimpikl, semuanya dari sukan badminton.