李渊没想到李建成他们还有那方面的事儿，望着李世民，惊讶不已，回答道：“明天朕就审问此事，你也应该及早前来参见朕。”

对于这种丑闻，李渊还是要面子的！作为家丑不可外扬来说，李渊也只能把三个儿子喊到一起来，爷儿四人私下了清这回事了！

而这，正是李世民所需要的发动玄武门行动的条件。如此，李建成与元吉就都只能只身前来了！

武德九年六月初四（626年7月2日），秦王李世民率领长孙无忌、尉迟敬德、房玄龄、杜如晦、宇文士及、高士廉、侯君集、程咬金、段志玄、屈突通、张士贵等率人悄然入朝，串通禁卫军玄武门守将常和，在玄武门埋下秦王府的伏兵。

张婕妤探知了李世民向李渊告发了李建成淫乱后宫的事儿，暗中派人告知了李建成。李建成于是与李元吉私下谋划对策。李元吉建议李建成称病不朝，李建成则认为不算好大回事儿，顶多死不认帐或向李渊认下错就行了，所以没有在乎。

所以，李建成、李元吉连兵器都没带，他们乘马进入玄武门后，来到临湖殿，察觉到了气氛有些变化，就立即掉转马头，准备向东返回东宫和齐王府。李世民骑着马追来弯弓射箭，一箭就射杀了李建成。

而尉迟恭带领着七十余名骑兵相继赶到，他身边的将士用箭射中了李元吉，李元吉跌下马来。可就在此时，李世民的坐骑受到了惊吓，带着李世民奔入玄武门旁边的树林。李世民又被林中的树枝挂住，从马上摔下，倒在地上，一时爬不起来。偏偏两弟兄又相隔不远。李元吉迅速赶到李世民跌倒处，夺过弓来，准备勒死李世民。就在这时尉迟恭跃马奔来大声喝住了他。李元吉见势不妙，赶紧放开李世民，想快步跑入武德殿寻求李渊庇护。但尉迟恭迅速追上，射杀了李元吉。

太子李建成的部下、东宫翊卫车骑将军冯立得知李建成被杀，叹息道：“难道能够在太子生前蒙受恩惠而太子一死便逃避祸难吗！”于是，他与副护军薛万彻、屈直府左车骑谢叔方率领东宫和齐王府的精锐兵马两千人，急驰赶到玄武门，准备为太子和齐王报仇。危急时刻，张公谨臂力过人，他独自关闭了大门，挡住冯立等人，冯立等人无法进入。

东宫余党冯立、谢叔方率兵犯玄武门。而守卫玄武门的将领，云麾将军敬君弘挺身出战，与中郎将吕世衡大声呼喊着向敌阵冲去，被东宫将领冯立所杀害，全部战死。

把守玄武门的士兵与东宫薛万彻等人奋力交战，战争持续了很久，薛万彻擂鼓呐喊，准备进攻秦王府。这时，尉迟恭提着李建成和李元吉的首级给薛万彻等人看，东宫和齐王府的人马顿失战心，迅速溃散，薛万彻与骑兵数十人则逃入终南山中。冯立则丢掉兵器，落荒而逃。