作为回报，李渊封裴寂为长史，待在自己身边，出谋划策。武德元年，也就是公元618年，杨广被杀，李渊登基的时机成熟，作为仪式，是裴寂带头，劝李渊：“丞相，你就当了这个皇帝吧”李渊呢，不同意。
做戏是要做全套的，禅让，不同意，再请求，连续反复，这么三次，李渊很为难的，成了皇帝，庙号唐高祖。李渊做了皇帝，最高兴的，是裴寂，三十年，在官场混了三十年，终于有机会，做个称头一点的大官了，起码是三品大员，不，如果再有点功劳，二品宰相，也不是不可能啊。
裴寂这么想的，也是这么做的，李唐建立后，第一个上门挑战的，是刘武周。刘武周原本是李渊手下，山西朔州的鹰扬府校尉，因为李渊要攻打长安，留在太原防守的部队，都交给了李元吉，但是兵太少，完全抵挡不了刘武周。
武德二年，也就是公元619年，刘武周得到宋金刚，老宋是个懂得兵法的军事统帅，在山西境内，扫了一圈，准备进攻山西重镇，太原。山西是李渊起兵的大本营，同时，裴寂的老家，也在山西，河东裴氏么，超级大家族，这是一次，封侯拜相的好机会，于是，裴寂主动请缨，文臣变武将，要去镇压宋金刚。
裴寂虽然没带过兵，但是兵书也是看过很多的，去之前，想的很清楚，优势主要有两个：主场作战，裴氏的影响力，可以很容易的，联络其他家族，共同抵抗宋金刚，人多；宋金刚以骑兵为主，攻城不是强项。
