徐世昌本出身官僚世家，但到了他這一代，家道中落，只得依靠母親縫衣紡線艱難度日。儘管家庭生活困難，好在他的母親識大體，再苦也要供養孩子讀書。寒窗苦讀十年載，1882年，27歲的徐世昌與其弟徐世光在順天府參加鄉試一舉得中舉人，四年後再中進士，授翰林院庶吉士，畢業後散館授編修，從此踏上了官宦仕途之路。
不過，編修僅為七品京官，俸銀很少，而且徐世昌在編修任上一待就是十年，人稱「黑翰林」。
眼瞧著此路不通，徐世昌心想不能坐以待斃，於是四處托關係走門路，終於在1897年謀得袁世凱在天津小站練兵處任參謀營務處贊襄。中國自古社會風氣是重文輕武，徐世昌以堂堂翰林身份到軍隊營務處任職，在當時可謂是鳳毛麟角。
徐世昌自有考衡，除經濟原因之外，還有仕途的考慮。京城當官，聽起來挺光鮮，但論資排輩、循例升遷，不知何年何月才能輪到他這個小小的七品芝麻官的晉升，倒不如趁著國家動盪，另闢蹊徑，投筆從戎，人挪活樹挪死，這條路或許比清淡衙門裡來得迅速。
事實也正如徐世昌所料，在小站練兵使他結識了大批後來的北洋系文武官員，非同僚，即下屬，為今後飛黃騰達奠定了基礎。
在北洋，徐世昌素稱北洋軍師，是袁世凱幕府領袖，其與袁世凱關係之非比尋常人所共知。
袁世凱用人最看重的就是「能力」，徐世昌貌似恭謹，內多機變，很對袁世凱的心思。袁世凱與徐世昌義結金蘭，入幕後不久，就成為北洋官僚之魁首。
徐世昌也確實不負袁世凱的厚望，擔任文案總辦後，為考閱各學堂文卷，考核兵目操法，校訂行軍攻守陣式圖說，改訂講訓各兵官功課，把各營務整理得井然有序。徐世昌還以袁世凱的名義編寫了《新建陸軍兵略錄存》《新建陸軍操法詳晰圖說》等書，上呈朝廷御覽，下送社會賢達，為袁世凱大造輿論，擴大影響。
袁世凱投桃報李，對徐世昌甚是信任，如有事外出，索性就連軍隊都讓徐世昌代為管理。
當年攝政王載灃執政後，第一件事就是以「患足疾，步履維艱，難勝職任」為藉口，勒令將袁世凱辭職回老家養病。此時的徐世昌全力維繫北洋集團，代替袁世凱四處活動，疏通各個環節，為重新起用布局。徐世昌還還代表清政府與袁世凱商討出山條件，起到了袁世凱起不到的作用。
可以想見，如果沒有袁世凱的提攜，徐世昌老死翰林院也未可知。
隨著時間的推移，民國初建，袁世凱逼迫清廷退位，竊取革命成果，鎮壓二次革命，得意忘形之際，竟做起了當皇帝的美夢。他很想知道徐世昌在這件事情上的態度，於是對其進行試探。然而徐世昌的態度很堅決，反對恢復帝制。
徐世昌的態度令袁世凱大失所望，此後兩人的關係漸行漸遠。
徐世昌之所以不附和帝制，並非由於他矢志共和，而是因為他深知復辟帝制斷難實現。而且，徐世昌並非袁的家臣，他是朝廷的顯宦、民國的高官，他有自己的政治個性、見解和抱負。此時處於旁觀者的徐世昌遠比當事人袁世凱的頭腦要清醒得多。
袁世凱登基後曾封徐世昌、趙爾巽、李經羲、張謇為「嵩山四友」，可以不向袁稱臣，但徐世昌立即辭職遠避天津。
但政治上的分歧卻沒有影響徐袁的私交。帝制失敗後，袁世凱一急之下，臥床不起，臨終「託孤」徐世昌為之料理後事。徐世昌二話不說慨然允諾。
徐世昌這個人一方面是為人謙恭沉穩，性格溫和內向，遇事從不輕易表態，深藏不露，務求十拿九穩；一方面又善於周旋，八面玲瓏，左右逢源，能迎合人的口味，能和各種類型的人保持良好的關係，並據此投靠和羅織一批人為己所用。
徐世昌與滿清最高統治者及親貴也能保持良好的關係。
庚子年間八國聯軍入侵北京，光緒慈禧連夜出逃西安。徐世昌從山東濟南輾轉奔赴西拜見慈禧，成了徐世昌往後官運亨通的政治資本。慈禧任命徐世昌為東三省總督被視為慈禧的有意栽培之舉。
慶親王奕劻軍機首席十年之久，徇私受賄，賣官鬻爵，眾人皆知。徐世昌不惜動用奉天的公款，郵傳部鐵路餘利大舉進獻，而且還和奕劻的兒子載振結為異姓兄弟，至此徐世昌成為慶王府的常客，關係日益密切。
南方革命黨遊說徐世昌。徐世昌對來人說：「反抗朝廷我是不能做的，但從今以後我絕對不會與革命黨人為難，請代我向孫中山先生致敬。」隨後還奉送路費二千元。以清朝地方大員的身份說出這種話、做出這等事，可見徐世昌的狡兔三窟的性格。
1917年張勳計劃復辟，徐世昌認為此事不僅不行，且會連累清室，因此他致電張勳勸其中止這種魯莽行為，同時，又托人轉告清室，希望他們「安靜自守,勿附會妄動」，以免引火燒身。復辟失敗後，南北輿論紛紛要求取消清室的優待條件，又是徐世昌奔走各方，極力遊走，這才保住了清室享有的優待條件，也算是他不忘清室皇恩浩蕩的一點回報。
1918年，在選舉民國第二屆總統之際，徐世昌利用直系馮國璋與皖系段祺瑞之間的矛盾，一向兩面討好的徐世昌成為為雙方都滿意的「理想人選」，躋登北洋政府大總統寶座，實現了徐世昌「昌大其門庭」的宿願。
在「有槍便是草頭王」的亂世，徐世昌自己沒有槍桿子，只是一個光杆「總統」。1920年直皖戰爭，皖系軍閥段祺瑞戰敗下野，直奉軍閥勢力大張。此時徐世昌左手拉直系吳佩孚，右手拉奉系張作霖，想兩面討好，左右逢源，使出渾身解救，但都無甚效果。1922年直奉大戰，在直系曹錕的一再逼宮下，結束了他五年的總統生涯，也從此結束了他從政40餘年的歷程。
據說，徐世昌深夜坐汽車逃出北京，涉險通過了四道盤查崗哨。當時他乘坐的那部用手搖發動的舊式汽車，後來一直陳放在家裡，作為脫險「紀念」，而救他脫險的那位汽車司機也一直被徐世昌當作「恩人」供養。
逃回天津時，徐世昌已經67歲，住在英租界裡過著優哉游哉的「隱居」生活。
為了表示厭倦國事，從不看報，也不許子侄們在他面前談論國事。而「九一八」事變後，徐世昌卻一改常態，每晚就寢前，必令他的侄女讀報給他聽。
「七七」事變後，大漢奸王克敏曾以「師生之誼」前來拜會，想拖他下水。徐閉門不見，並向人表示「我沒有這樣的門生」。
為了擺脫敵偽的糾纏，他鼓勵子侄遠離天津，自己也從此裝病謝客。不料假病後來變成真病，1939年85歲的徐世昌病逝於天津寓所。