李渊手下的两支军队，合计共二十余万人，共同合围长安城。长安城内，已是一片慌乱，代王杨侑其年十二岁，尚且年幼，朝政多由其舅舅滑国公韦保峦代为处理，韦保峦之弟韦义节出任侯卫大将军，负责长安城十二道城门和皇宫的守护。韦义节眼见李渊势大，长安城已成孤城，便暗中与韦保峦商议，建议韦保峦献城投降，以保韦氏一族的尊荣，被韦保峦怒斥了一顿。恰逢阴世师率两万人马，回援长安城，就连卫文升和骨仪两人，也随他一起进了城，韦保峦就势免了韦义节的侯卫大将军一职。韦保峦原本想让卫文升负责长安城的守卫，但是卫文升经过鄠邑之败后，精神状态日渐低靡，再听说自已家人，用长安县城，换了自己的自由后，更是伤心不已，回到长安后，便在家卧床不起。韦保峦无法，只得将长安城的一应城防事务，都交由阴世师、骨仪两人负责，又命屈突通的儿子屈突寿、屈突诠协助两人守城。
韦义节见韦保峦把守城这么重要的事情，交给骨仪和阴世师来办，心中便有不忿，于是将骨仪和卫文升的家人，当初以办丧事的名义，骗自己放他们出城的事情，告诉了韦保峦。并说道：现在骨仪和卫文升完好无损的回来了，说明这二人肯定有不可告人的秘密，否则当初没有必要做这种事情。韦保峦听说还有此事后，反倒将韦节义训斥了一顿，说他当初就不该放人出城，而且还隐瞒了这么久才说。韦义节见韦保峦反倒来责怪自己，心中的怨气就更大了。韦保峦知道卫文升现在病重，不便去问卫文升，便将骨仪叫了过来问话，骨仪自然不会承认，只说自己家人不知情，以为自己死了，这才给自己办了丧事。并说自己在叛军中是宁死不屈，叛军关押自己几个月后，看守放松了警惕，自己趁叛军不注意，带着卫文升一起偷偷跑出来了，在路上遇到阴世师回城的军队，二人便他一起进了城。骨仪说的有鼻子有眼的，韦保峦听了骨仪的话后，也没有过多的深究，对骨仪敲打了一番，仍让他协助阴世师守城。
韦义节同样身为代王杨侑的舅舅，平时却并不如兄长韦保峦一般受到代王重视，心中本来就有意见，又被自家兄弟免了职，更是多有不忿。现在见韦保峦，宁愿相信几个外人，也不相信自己，更是怀恨在心，于是更加打定了投降的主意，伺机想与城外的李渊军队联系。
阴世师和骨仪两人，栽过几次跟头之后，也谨慎了许多。两人一上任，便将长安城十二门的守卫都撤换了，亲自挑了十二位家眷在长安城中的守城校尉，并把他们的家人，都接到了宫中看管了起来。又让人把一应的守城装备，都摆了出来，夜叉檑、狼牙拍、巨形强弩都架上了城墙；各个城门的守军，都配备了猛火油柜；十二道城门，都用刀车塞住了，别说城外的人，城里的人想出去都不行了；再把库里的投石机都组装了起来，凑够了二十四架，每个城门配备了两台投石机；长安城的几处水源：永安渠、清明渠、龙首渠、曲江池的黄渠，都做了水上栅栏，水中又安放了不少铁蒺藜、暗刺、突刀，以防有人潜水入城；再在各个城门处，埋下听瓮，防止有人挖地道进城。一应的擂木、投石、油料都准备停当，随时做好了战斗的准备。
阴世师将屈突通的奏折，给韦保峦看了，韦保峦便依屈突通之言，先是将城中粮草，都集中到皇宫之中看管起来；又把一众多余的宫女、宦官放了出去，以节约宫中粮食消耗；接着便是让一众大小官员，把家中的家丁都放了出来，加入到守城队伍中来，经过一番折腾，总算是凑齐了五万人马。韦保峦又按屈突通的计策，将长安城的各大城门，分割成十二大块，与城门相临两个坊的街道，都用拒马、栅栏隔断成独立的一块，将里坊设置成了【瓮城】，每个【瓮城】都配备了几辆驽车，以防一个城门被突破后，叛军趁势扩大战果。一切准备妥当后，韦保峦又亲自负责起了皇城的守卫，将外城的守卫交给了阴世师、骨仪、屈突寿、屈突诠四人。命屈突寿负责东城的守卫，屈突诠负责西城的守卫，骨仪负责南城的守卫，阴世师负责北城的守卫。
韦义节冷眼旁观，将这一切看在眼里，记在心里，偷偷记下了各处的防守情况，并把情况详细的写在了绢布上。韦义节又召集府上的几十名家丁，先跟他们训话道：“平日老爷我，待你们如何啊”？一众家丁哪敢说二话，都说老爷待自己恩重如山。韦义节又问他们道：“这回让你们上城墙作战，你们都给我打起精神来，不准偷懒啊！听到了没”？他这番话说完后，便仔细观察起一众家丁的表情来，大部分家丁都声音响亮的应了。韦义节见有几个家丁，回答时躲躲闪闪的，声音也不响亮，心中便把他们都记了下来。待众人散去后，韦义节便让人把那几个滥竽充数的家丁找来了，先试探他们道：“刚刚老夫跟你们讲话，你们为什么躲躲闪闪的”？几个家丁连忙说冤枉，韦义节故意提醒他们道：“这贪生怕死，原是人之常情，老爷我也不会怪你们。只是现在这个情况嘛，想求生也是妄想了，你们都好自为之吧”。几个家丁一时听得是云里雾里的，也不知道他这话是什么意思。一名家丁胆大地问道：“老爷，这小人们也就罢了，您是堂堂的国舅爷，怎么也说这种话来”？另一名家丁也说道：“您老定是有办法的，还望老爷开恩，教小人们一个活命的门道来”，其他几人见韦义节似乎并没有发火，也连忙跪地求饶道：“老爷开恩呐！小人们要是上了城墙，怕是只有死路一条了，再也不能侍候您老人家了，还请老爷可怜可怜，替小人们想个主意出来”！韦义节见时机差不多了，便先试探他们道：“你们想活命啊？那行吧，你们当值的时候，把里面人员配置什么的，都先搞清楚，回来告诉老爷我，老爷我看看有没有什么漏洞，要是有漏洞，咱们再想办法补一补，怎么样”？一众家丁听后，既不知道他到底是什么意思，也不知道他说的到底是什么情况，也只得先行退下，按他说的去办了。
城外的唐军大营中，李渊召集众将商议道：“这打仗一事，我一向是不太懂的，不过这先礼后兵的道理，我还是知道的。咱们先派人到城下去喊话，如果隋军能主动打开城门，那大家都皆大欢喜，不行的话，咱们再来商议攻城的办法吧”。众将听后，虽说感觉这办法有点迂腐，但抱着试一试的心态，也都同意了。李渊于是命李建成，挑选了几十名嗓门大的士兵，拿着写好的檄文，向守城的隋军喊话，檄文大意是：
隋臣唐国公李渊，敬告代王殿下，方今天下，奸臣当道，贼寇四起，内忧外患，不胜枚举；李氏一族，世受皇恩，当此危难，责无旁贷；臣甘冒天下之大不韪，与晋阳举兵，一为自保，二为驱贼，三为报效朝廷，匡扶朝纲；既无半点僭越之心，亦无半点僭越之举，望代王殿下明查；今情非得已，请求代王殿下应允，让臣等进驻长安；臣愿效周公、诸葛孔明之举，辅佐殿下，以成大业。臣李渊在此发誓，必竭尽全力辅佐殿下，外驱群寇，内除奸贼，肝脑涂地，死而后已；事成之后，臣愿回原籍，躬耕养身，不问世事，颐养天年。臣李渊顿首拜上。
念罢檄文后，李建成又让人朝长安守军喊话，希望长安守军能明白唐军的这番苦心，不要妄加猜测，放唐军进城，以免因用兵而双方遭受伤亡。李建成命几十人喊遍了四城，隋军无人回应，在明德门时，还遭到守军的一通乱箭。李渊无法，只得命李建成、李世民、李秀宁等，集合一众将领，商议攻城事宜。