自古以來，來往中、印之間及其他更遙遠國度的商船穿航馬六甲海峽，使馬來半島成為東南亞主要的貿易中心。在托勒密的地圖上，馬來半島被稱為黃金半島（拉丁文：Golden Chersonese），馬六甲海峽則稱為象牙海灣（拉丁文：Sinus Sabaricus）。歷史上最古老的馬來王國在公元10世紀時自沿海港城開始發展，包括吉打州的狼牙脩（Langkasuka）、布秧谷（Lembah Bujang）、霹靂州的木歪（Beruas）、剛迦王國（Gangga Negara）及吉蘭丹州的盤盤。中國宋元時代稱這裡為佛羅安國、單馬令國。
伊斯蘭教在14世紀傳至登加樓州。15世紀初，拜里米蘇拉創立馬六甲王朝（滿剌加）但馬六甲王朝的繁榮卻招致葡萄牙在1511年的入侵。隨後荷蘭與英國也相繼以馬六甲為殖民中心，並逐漸控制馬六甲海峽。
法蘭西斯·萊特在1786年開拓並發展檳城為軍事及商業中心。但很快的檳城的重要性就被斯坦福·萊佛士爵士在1819年開拓的新加坡所取代。1824年，英國在《英荷條約》簽訂後，從荷蘭手中獲得馬六甲。1826年，英國設立了隸屬加爾各答的不列顛東印度公司的海峽殖民地，並漸於馬來半島擴展影響力。初期的海峽殖民地包括檳城、新加坡及馬六甲。1867年，設於倫敦的殖民廳接管海峽殖民地。
當時，許多馬來州屬的統治者為了解決州內的紛爭而向英國殖民者求助。在殖民廳接管海峽殖民地的十年內，一些馬來半島西海岸的馬來州屬也相繼納入英殖民者掌管範圍。海峽殖民地的商人都希望英國政府介入馬來半島產錫州屬的內政。另外華僑黨派的紛爭及內戰，使英政府採取了有利於商人的炮艦外交。1874年的邦咯條約最終促成英殖民者的權力擴張。在20世紀之前，由彭亨、雪蘭莪、霹靂及森美蘭州所組成的馬來聯邦（非馬來亞聯合邦）為英籍總督們所管轄。這些總督聽令於駐在新加坡的最高專員兼海峽殖民地總督；最高專員則直接向倫敦的殖民廳報告。
其他的馬來半島的州屬被稱為馬來屬邦。雖然他們不直接從屬英殖民者，但州內皆駐有英國參政司。四個北部州屬：玻璃市、吉打、吉蘭丹及登加樓曾經被泰國統治。英屬北婆羅洲（現為沙巴州）曾被蘇祿王朝統治，英籍的布洛克家族則管轄擁有大片森林的砂拉越州。
第二次世界大戰時日本的統治，促使越來越多人支持馬來亞的獨立。戰後英國政府於1946年將馬來屬邦重組為馬來亞聯盟(Malayan Union)，但因普遍受到反對，而於1948年重組為馬來亞聯合邦。使馬來族群更嚮往一個更有利於他們的制度，期間開始排拒新加坡留在新國體的要求，同時決定不實施雙重國籍制度，認為這將使許多移民族群同時持有馬來亞及祖國的國籍。馬來亞聯合邦最終在1957年8月31日獨立。這個新的國家並不包括新加坡。
馬來西亞在1963年9月16日成立，由新加坡、北婆羅洲（改稱沙巴）及砂拉越（後兩者處在婆羅洲上）與馬來亞聯合邦共同參組。汶萊蘇丹雖然曾表示有意加入，但最後因為石油利益糾紛而放棄。馬來西亞在獨立初期所面對的危機包括印度尼西亞總統蘇卡諾欲占有馬來西亞的意圖、新加坡在1965年8月9日的退出及1969年5月13日發生種族暴力血腥衝突，史稱五一三事件。菲律賓也曾在這時期聲稱擁有沙巴州的主權，因汶萊蘇丹在1704年把其東北的領地讓給蘇祿蘇丹；這個問題尚未完全解決。
1969年之後的數任首相不平等的給予馬來人種種特權在經濟領域和政治領域和受教育權的馬來西亞新經濟政策，遭國內各族群的反對，但反對無濟於事。至此以後，馬來人享有經濟政治教育上的特權、有利於馬來民族（稱bumiputra 「土著」）及中庸伊斯蘭教的經濟及政治制度。