唐高祖李淵共有二十二個兒子：竇皇后生建成、世民、玄霸、元吉，萬貴妃生智雲，莫嬪生元景，孫嬪生元昌，尹德妃生元亨，張氏生元方，郭婕妤生元禮，宇文昭儀生元嘉及第十九子靈夔，王才人生元則，張寶林生元懿，張美人生元軌，楊美人生鳳，劉婕妤生元慶，崔嬪生元裕，小楊嬪生元名，楊嬪生元祥，魯才人生元曉，柳寶林生元嬰。
公元617年五月，李淵在晉陽起兵，在長子李建成、次子李世民等人支持下，十一月占領長安後，李淵擁立隋煬帝的孫子代王楊侑為帝，即隋恭帝。李淵自任大丞相，進封唐王。次年李淵篡隋稱帝，定國號為唐，並立長子李建成為太子。這時以太子建成及支持他的四弟李元吉為一方，與李世民一方早在戰爭時期即已潛滋暗長的仇恨終於表面化了，並且發展為你死我活的權力鬥爭。李淵的優柔寡斷，也使朝中政令相互衝突，加速了諸子的兵戎相見。
到了公元621年，李世民由於戰勝了竇建德和王世充而聲譽驟隆，太子建成則因大部分時間在北方邊疆防禦突厥人，未能樹立同樣的聲望。也就在這一年，唐高祖把李世民的地位提高到諸王之上，在朝中的地位僅次於李淵和太子建成，且擁有眾多支持者；並命他掌握東部平原文、武兩方面的大權，並且命他開府洛陽，府內人才濟濟，與李世民的支持者們一起形成了秦王黨，與太子黨相抗衡。他設立了自己的文學館，其中有十八學士當他的國事顧問。文學館的創辦很可能提醒太子建成，世民有繼登大寶的野心。
從這時起，建成想方設法挖李世民的牆腳，把後者班子中的幾個人調往別的崗位上去。與此同時，他招募兩千多名少壯人員來增強他在長安的力量，這支力量稱長林兵，因為他們駐紮在太子住地東宮內的長林門附近。建成與元吉還獲得高祖後宮中許多妃嬪的支持，他們在不間斷的宮廷陰謀中在皇帝面前給他們說好話。另一方面，李世民因有軍務經常不在首都，在長安城內和宮廷內部都沒有群眾基礎。但他在洛陽的軍政官員中建立了堅實的基礎，以此來與太子建成在長安的優勢相抗衡。
例如：李世民平定盤踞在洛陽的王世充以後，高祖讓貴妃等幾人到洛陽挑選隋朝宮女和收取倉庫里的珍寶。貴妃等人私下向李世民索要寶物並為自己的親戚求官，李世民回答道：「寶物都已經登記在冊上報朝廷了，官位應當授予賢德有才能和有功勞的人。」沒有答應她們的任何要求，因此妃嬪們更加恨他。李世民因為淮安王李神通有功，撥給他幾十頃田地。張婕妤的父親通過張婕妤向高祖請求要這些田，高祖手寫敕令將這些田賜給他，李神通因為秦王的教令在先，不讓田。張婕妤向高祖告狀道：「陛下敕賜給我父親的田地，被秦王奪去了給了李神通。」高祖因此發怒，責備李世民說：「難道我的手敕不如你的教令嗎?」
唐高祖曾想法緩和諸子之間日益緊張的關係。他試圖讓李建成和李世民脫離直接接觸，並且曾作過某些微弱而不成功的努力以彌補他們之間的裂痕。但是，他陷入了宮廷內和朝堂上精心策劃的爾虞我詐的交叉火網之中而不能自拔，每一方都設法詆毀對方，而唐高祖本人對李建成和李世民的態度又極端搖擺不定，對他們的態度看來取決於他們各自成功地利用他的程度。同時，局勢也急轉直下，直到最後以兵戎相見。
到了公元626年，李世民對李建成和李元吉耍弄花招所取得的成就越來越驚恐不安，因為後二人意在使皇帝反對他，並且想挖空他的一幫人馬。李世民的兩個最重要的謀士房玄齡和杜如晦，因建成和元吉玩弄陰謀而被開除。他的將軍尉遲敬德被建成和元吉僱人行刺，幾乎喪命，而當他後來被他們在朝中詆毀時又是經李世民說情才免於一死的。公元626年初突厥人入侵邊境，經建成提議，元吉被派往抗禦突厥人；他隨身帶走了李世民手下最優秀的將軍們和精銳士兵。並且建成和元吉厚賂李世民的關鍵人物，希望他們倒戈相向。唐高祖似乎並不反對他們搞這些名堂。
李世民的部下曾敦促他對他的兩個兄弟採取強硬的立場，李世民始終未下定決心。刺激李世民採取行動的事件終於出現：據他的探子密報，太子建成他們計劃在李世民送元吉出征突厥人之際將他殺害。由此他秘密地把扮成道士的房玄齡和杜如晦召進他的營地以協助他制定反制計劃，同時，他又賄買玄武門禁軍將領常何，使之聽命於己。李世民向唐高祖謊奏說建成和元吉淫亂後宮，唐高祖即對此事進行按驗。
公元626年7月2日，李世民率領長長孫無忌、尉遲恭、房玄齡、杜如晦等人入朝，並在玄武門埋下伏兵。李建成、李元吉二人不知底細，也一起入朝，騎馬奔向玄武門。玄武門位於長安北面城垣之中心，是出入禁城的要道。由於它地處衝要，所以禁軍都駐紮在它的左近，以負責防禦政變。高祖的一個妃嬪把李世民對他們的控告通知了建成和元吉，他們便決定不去朝廷而逕自去見皇帝求情，因此打馬直奔皇宮，想為自己辯護。當建成、元吉到達宮門入口處玄武門時，他們被李世民率領的伏兵襲擊。建成被李世民砍死；元吉則被李世民的軍官尉遲敬德所殺。建成和元吉的隨從於是對玄武門發動攻擊，但當兩位被殺主子的頭被拿來示眾時，他們的攻門努力便即刻瓦解了。
緊接著李世民派尉遲敬德去向皇帝報告政變的結果。據說，在玄武門事件發生時，高祖正在宮內的湖面上划船。這時，尉遲敬德身穿全副甲冑荷戈而至（這一行動通常罪當處死），把高祖兩個兒子的死訊告訴了他。李世民用了這一戲劇性的手法告訴他的父親：唐廷內的潮流變了，他現在完全控制了局勢。
玄武門事變之後僅僅三天李世民便被立為皇太子，從他父親手裡接過政府的實際控制權。過了兩個月唐高祖把皇位內禪給李世民，這便是唐朝的第二位皇帝太宗。與此同時，唐高祖被尊為太上皇，公元635年死去。
建成和元吉兩人在正史上都被說得無甚是處。根據這些史書的記載，太子建成則冥頑不靈，桀驁難馴，沉迷酒色。元吉酷嗜射獵，在戰陣上反覆無常，又是個好色之徒和一個虐待狂。這些貶詞至少是傳統史料中這一時期的記載對他們故意歪曲的部分結果。
對於唐高祖在史書中也是受貶低的一位皇帝。他的聲譽之所以蒙受損失，一是他的統治時期很短，而且是夾在歷史上兩個最突出的人物的統治期的中間：他前面的統治者是隋煬帝，他後面的則是被後世史家視為政治完人的唐太宗。二是因為他建立唐朝的功績被他的接班人精心地掩蓋了。實際上，唐高祖舉兵反隋時儘管已年過五十，他仍然不失為一個有雄心壯志而又生氣勃勃地和幹練的領袖人物，有著不凡的抱負。唐朝建立後，在行政、經濟和軍事等方面進行了改革，為唐太宗的輝煌統治奠定了必不可少的基礎。