1906年，清政府派駐荷蘭公使錢念劬派人員到爪哇調查華僑教育狀況，由董鴻煒帶回21名華僑學生到南京，因這批學生沒有辮子，不便安排進已有學校，兩江總督端方決定在薛家巷處的妙相庵設立專門學堂，兩江師範學堂學務處溫秉忠為學堂總理，鄭洪年被任命為首任堂長，江南提學使陳伯陶替該校起名「暨南學堂」，意為中國文化傳播到南洋去的意思，這是中國第一所華僑學校，也是中國華僑教育的搖籃。學堂於1907年春天正式開課。不久，該學堂正式改制為暨南完全中學，內設小學、中學課程，以讀經、歷史、地理、國文為主，痛死開設博物、物理、化學、法制、英文等科。南洋華僑因受康有為、梁啓超和孫中山影響，學生中有不少革命黨人。（康有為和梁啓超的保皇派對爪哇的訪問及辦報紙，孫中山的革命黨在爪哇辦報紙）。
辛亥革命時，暨南完全中學許多人參加了武裝起義並從事各項革命活動，學校一度停辦。1918年春，在黃炎培等人的努力下，暨南完全中學正式開學，並改名為暨南學校，趙正平人校長，先後開設師範、商業兩科和補習班、中學、小學。1921年，學校商科遷往上海徐家匯辦學，同年與東南大學在上海合設上海商科大學。
1927年6月14日，鄭洪年執掌學校，在他的努力下，學校改名為國立暨南大學（民國初期七所國立大學之一），鄭洪年為第一任校長，蔡元培為校董。
1929年設文學院、理學院、商學院、教育學院，招收國外回國之小學與中學畢業生。1930年，又增設法學院。
因抗日戰爭爆發，學校多次遷移，於1942年6月輾轉至福建建陽。1946年6月才遷回上海。1949年6月上海解放以後，8月暨南大學撤銷，師生併入復旦大學、上海交通大學等高校。
1958年，暨南大學在廣州重建，1960年9月，暨南大學水產系部分學生併入上海水產學院（現上海海洋大學）。
1966年，「文革」開始，暨南大學停止招生，學校還有1000多人。1970年3月5日，暨南大學有一次撤銷。
1978年，暨南大學再度復辦。