此战之后，高句丽举国震惊，后黄城、银城等地军民皆弃城而逃，数百里内断绝人烟。

唐军又回师继续猛攻安市城，守军凭坚城固守。李勣认为围师必缺，献计叫李世民只攻西南二门，放出东北二门通道，让守军从东门与北门逃跑。李道宗则认为敌人数百里内皆已无去处，守敌根本不会逃跑，便奏请李世民破城后进行屠城，想以此来恐吓城中守敌，迫使他们投降。安市百姓闻知李道宗奏请克城后坑杀全城男女老幼，皆全力支援守城士卒，反而致使唐军久攻不下。

最终因辽东气候转寒，草枯水冻，军队及战马难以久留，且粮草将要耗尽，李世民不得已下令班师。李勣与李道宗率步、骑军四万殿后。

唐军回师后，朝廷录功又封了李勣的一个儿子为郡公。

唐太宗亲自东征高丽，虽然没能完全达到灭掉高丽的目的，但也沉重地打击了高丽，使得其后好长段时间不再敢有异动。

回师转来，一年后（贞观二十年），唐趁薛延陀内乱之机，出兵灭了薛延陀，使得渊盖苏文完全被镇慑住了。自此，唐北疆安宁了。这在前面已有表述。

贞观二十二年（648年），李勣转任太常卿，仍任同中书门下三品。十日后，又拜为太子詹事。

贞观二十三年（649年），李世民卧病。临终前，李世民对太子李治说：“你对李勣没有什么恩惠，朕现在准备贬他为外官。朕死后，你应当授给他仆射之职，他就蒙受了你的恩惠，必定为你尽死力。”又授与李治一锦囊，让他回去看后照着里面纸条上写的做。据传，他在锦囊中留给李治的话是如果李勣外出赴任，就要好好地任用他。如果他执意要留下来，则务必当机立断杀掉他。

然后，李世民又派人去召来李勣，要他出任叠州都督。李勣当即表示服从唐太宗的安排，并且回去后就立即出京到叠州赴任去了。

李治即位当月，就召他入朝拜为洛州刺史。接着又加封开府仪同三司，命李勣任同中书门下，参与执掌机要事务。同年，又册封拜他为尚书左仆射。

李勣在叠州听闻太宗驾崩，太子即位的消息后就明白了：新皇即位在即，作为太子詹事兼左卫率的他，却被唐太宗给外放了，自己这是明显是受到唐太宗的猜忌了。于是，他连忙上表请求免除自己仆射的职务，表示自己不敢揽朝中大权。李治还是命他以开府仪同三司之职执掌政事。

永徽四年（653年），李勣被册拜为司空。李治命令人为他画像，还亲自为画像作序。李治又下诏，特许李勣乘小马出入三省，每日由一名小官奉命迎送。