于是，房玄龄和杜如晦穿上道士的服装，与长孙无忌一同进入秦王府，尉迟恭则经由别的道路也来到了秦王府。

武德九年六月初一丁巳日（626年6月29日），太白金星在白天出现于天空正南方的午位，按照古人的看法，这是“变天”的象征，是暴发革命或当权者更迭的前兆，代表要发生大事了。武德九年六月初三己未日（626年7月1日），太白金星再次在白天出现在天空正南方的午位。傅奕秘密上奏李渊道：“金星出现在秦地的分野上，这是秦王应当拥有天下的征兆。”

李渊将傅奕的密奏给秦王李世民看，以示自己并不会因别人怎么说就猜忌他。李世民则乘机秘密上奏父皇，告发自己发现了李建成和李元吉与后宫的嫔妃淫乱，因此他们二人必欲除去自己而后快。而且说：“儿臣丝毫没有对不起皇兄和皇弟，现在他们却打算杀死儿臣，这简直就像要替王世充和窦建德报仇。如今我快要含冤而死，永远地离开父皇，魂魄归于黄泉，如果见到王世充诸贼，实在感到羞耻！”

李渊没想到李建成他们还有那方面的事儿，望着李世民，惊讶不已，回答道：“明天朕就审问此事，你也应该及早前来参见朕。”

对于这种丑闻，李渊还是要面子的！作为家丑不可外扬来说，李渊也只能把三个儿子喊到一起来，爷儿四人私下了清这回事了！

而这，正是李世民所需要的发动玄武门行动的条件。如此，李建成与元吉就都只能只身前来了！

武德九年六月初四（626年7月2日），秦王李世民率领长孙无忌、尉迟敬德、房玄龄、杜如晦、宇文士及、高士廉、侯君集、程咬金、段志玄、屈突通、张士贵等率人悄然入朝，串通禁卫军玄武门守将常和，在玄武门埋下秦王府的伏兵。

张婕妤探知了李世民向李渊告发了李建成淫乱后宫的事儿，暗中派人告知了李建成。李建成于是与李元吉私下谋划对策。李元吉建议李建成称病不朝，李建成则认为不算好大回事儿，顶多死不认帐或向李渊认下错就行了，所以没有在乎。

所以，李建成、李元吉连兵器都没带，他们乘马进入玄武门后，来到临湖殿，察觉到了气氛有些变化，就立即掉转马头，准备向东返回东宫和齐王府。李世民骑着马追来弯弓射箭，一箭就射杀了李建成。