他巧妙地避免了背主求荣的道德尴尬，同时也打造了自己无欲则刚的大丈夫形象，他以忠于旧主的方式投降大唐，更是巧妙地为自己投降之后预留了宽阔的道德和政治空间，只能说徐茂公拥有超强的政治才能。然而，谋事在人，成事在天，李密后来反唐，被李渊诛杀掉。
这无疑又把徐茂公往火坑里推，要知道，徐茂公的所有资本都来自于对李密的忠心，如今李密叛唐，徐茂公该如何是好？和上次一样，他再次面临两难的抉择。然而再次出乎所有人的意料，徐茂公上表请求皇上开恩，让他安葬李密。李渊再次感动，破例特许。
徐茂公为李密披麻戴孝，举办了隆重的葬礼，满朝文武都敬佩他忠肝义胆，徐茂公再次将政治包袱改造成了优质政治资产。此后数年间，徐茂公投奔在李世民旗下，跟随李世民南征北战，先后平定了王世充、窦建德、刘黑闼、徐圆朗、辅公祏诸人，成为大唐一员功勋卓著的战将。
唐太宗时期，贞观年间，曾参与平定东突厥、薛延陀、高句丽的战役。武德八年（625年）突厥进犯，李世勣讨伐。贞观三年（629年）大破突厥，俘五万人而归，镇守并州十六年。参见唐与突厥的战争。贞观十五年（641年），在诺真水（今内蒙古乌兰察布）大败薛延陀。贞观十八年（644年）随太宗亲征高句丽。
唐太宗晚年，曾对太子李治说：“徐茂公李勣这人太忠义，你无恩于他，恐怕日后他无法尽心辅佐你。”为了使徐茂公忠于李治，唐太宗将他贬为叠州（今甘肃迭部）都督。唐高宗即位后根据唐太宗的遗命恢复了他的职位，历任尚书左仆射、司空。
高宗问他：“朕欲立武昭仪为后，你以为如何？”徐茂公说道：“此陛下家事，何必要问外人。”总章元年（668年），徐茂公李勣率兵至鸭绿江，与薛仁贵会于平壤，攻克平壤，大胜而归。公元669年，徐茂公走到了生命的尽头，这年他76岁。
