中國第一所教會大學，也是中國近代第一所現代大學，成立於1879年，由美國聖公會上海主教聖約瑟將聖公會原轄培雅書院（1865年）和度恩書院（1866年）合併成聖約翰書院。1879年9月1日開學，有十名老師（美籍華籍各半），及62名學生。辦學初期設西學、國學和神學三門，上海方言授課。1880年，醫科由上海同仁醫院院長文恆理（H. W. Boone）創辦。1881年，聖約翰書院設英文部，聖約翰的美籍英語教師卜舫濟牧師（F. L. Hawks Pott）開始完全用英語教學。1882年10月30日，聖約翰書院神學部首屆畢業生四人被授予會吏聖職 。1888年6月，年輕的卜舫濟出任校長，到1941年轉任名譽校長，他主持聖約翰校政長達53年之久，對該校發展起到了很大的影響。
1890年5月，舉辦了首屆田徑運動會。1905年11月，學校在美國華盛頓註冊，正式稱聖約翰大學，設文理學院（後分設文學院、理學院）、醫學院、神學院以及一所附屬預科學校（後改設附屬中學），成為獲得美國政府認可的在華教會大學，畢業生可直讀美國大學的研究生院，耶魯大學、哈佛大學、哥倫比亞大學等名校可以免試招收。1906年醫科學制改為七年，畢業者授予博士學位，是中國最早授予醫學博士學位的學校之一。
1913年開始招收研究生。聖約翰大學後來發展成為一所擁有文、理、醫、工、神、農六大學院17個系的綜合性教會大學，是當時上海乃至全中國最優秀的大學之一，入讀者許多是政商名流的後代或富家子弟，而且擁有濃厚的教會背景。1920年創辦了中國乃至亞洲第一個新聞專業。1937年八一三事變爆發後，聖約翰大學與滬江大學、東吳大學、之江大學等合組華東基督教聯合大學（聖約翰大學醫學院及神學院不在內）。1941年2月1日，卜舫濟因年邁辭去校長職務，沈嗣良成為該校首任中國籍校長。
1950年12月，聖約翰大學正式宣布與美國聖公會脫離關係，改由國人自辦。1951年秋，大同大學（1912年創辦）文學系併入。1952年秋，聖約翰大學撤銷，校址所在地現為華東政法大學長寧校區。
1949年和1952年，新聞系和外文系、中文系（部分）、歷史系併入復旦大學。1952年，土木工程系、建築工程系併入同濟大學；機械工程系併入交通大學（今上海交通大學、西安交通大學）；經濟系併入上海財政經濟學院（今上海財經大學）；政治系併入華東政法學院（今華東政法大學）；理學院（數學系、物理系、化學系、生物系）、中文系（部分）、教育系併入華東師範大學；醫學院參與組建上海第二醫學院，後更名為上海第二醫科大學（今上海交通大學醫學院）；取消神學院，學生轉入南京的金陵協和神學院；聖約翰大學附中與大同大學附中二院合併為上海市五四中學。