而尉迟恭带领着七十余名骑兵相继赶到，他身边的将士用箭射中了李元吉，李元吉跌下马来。可就在此时，李世民的坐骑受到了惊吓，带着李世民奔入玄武门旁边的树林。李世民又被林中的树枝挂住，从马上摔下，倒在地上，一时爬不起来。偏偏两弟兄又相隔不远。李元吉迅速赶到李世民跌倒处，夺过弓来，准备勒死李世民。就在这时尉迟恭跃马奔来大声喝住了他。李元吉见势不妙，赶紧放开李世民，想快步跑入武德殿寻求李渊庇护。但尉迟恭迅速追上，射杀了李元吉。

太子李建成的部下、东宫翊卫车骑将军冯立得知李建成被杀，叹息道：“难道能够在太子生前蒙受恩惠而太子一死便逃避祸难吗！”于是，他与副护军薛万彻、屈直府左车骑谢叔方率领东宫和齐王府的精锐兵马两千人，急驰赶到玄武门，准备为太子和齐王报仇。危急时刻，张公谨臂力过人，他独自关闭了大门，挡住冯立等人，冯立等人无法进入。

东宫余党冯立、谢叔方率兵犯玄武门。而守卫玄武门的将领，云麾将军敬君弘挺身出战，与中郎将吕世衡大声呼喊着向敌阵冲去，被东宫将领冯立所杀害，全部战死。

把守玄武门的士兵与东宫薛万彻等人奋力交战，战争持续了很久，薛万彻擂鼓呐喊，准备进攻秦王府。这时，尉迟恭提着李建成和李元吉的首级给薛万彻等人看，东宫和齐王府的人马顿失战心，迅速溃散，薛万彻与骑兵数十人则逃入终南山中。冯立则丢掉兵器，落荒而逃。

政变发生时李渊正在宫内的海池上划船。李世民让尉迟恭入宫担任警卫。尉迟恭身披铠甲，手握长矛，径直来到李渊所在的船上。

李渊大惊，问道：“今日作乱的人是谁?爱卿到此做什么?”

尉迟恭回答道：“秦王因为太子和齐王作乱，起兵诛杀了他们。秦王殿下担心惊动陛下，故派臣担任警卫。”

李渊大惊，痛心地对裴寂等人说：“不料今天竟然会出现这种事情，你们认为应当怎么办呢?”

萧瑀和陈叔达说：“建成与元吉本来就没有参与举义兵反抗隋朝的谋略，又没有为天下立下功劳。他们嫉妒秦王功劳大，威望高，便一起策划奸邪的阴谋。现在，秦王已经声讨并诛杀了他们，秦王功盖宇宙，天下归心，陛下如果能够决定立他为太子，将国家大事委托于他，就不会再生事端了。”

李渊只好顺势说道：“好吧！这正是我素来的心愿啊。”

当时，宿卫军和秦王府的兵马与东宫和齐王府的亲信交战还没有停止，尉迟恭请求（实则带有武力胁迫性质）李渊颁布亲笔敕令，命令各军一律接受秦王的处置，李渊听从了他的建议。

天策府司马宇文士及从东上阁门出来宣布敕令，众人便这样安定下来了。

李渊又让黄门侍郎裴寂前往东宫开导原李建成麾下的诸将士，将士们便都弃职而散。

李渊又召李世民前来，抚慰他说：“近些日子以来，我几乎产生了投杼的疑惑。”李世民跪了下来，伏在李渊的胸前，号啕大哭良久，一再声称斩杀兄弟实非己愿，奈何他们真的在造反围攻玄武门啊。李渊并不清楚具体情况，但他也知道现在算是这个二儿子强势归来了，只是伤怀一下子死了两个儿子，只能黯然地对李世民说道：“事已至此，你料理好他们的后事吧！我已老了，以后要靠你来打理好这江山了！只望你不要像隋炀帝那样！”

结果，李建成的儿子安陆王李承道、河东王李承德、武安王李承训、汝南王李承明、钜鹿王李承义，李元吉的儿子梁郡王李承业、渔阳王李承鸾、普安王李承奖、江夏王李承裕、义阳王李承度等人均伏诛，并除宗籍。