唐武德九年（626年），他参与玄武门之变的策划，帮李世民谋得帝王之位，太宗论功行赏，以房玄龄、长孙无忌、杜如晦、尉迟敬德、侯君集五人功为一等，进爵邢国公。
李世民的堂叔李神通不服，说：“义兵初起，臣率兵先至。现在房玄龄、杜如晦等刀笔之吏（这位皇叔不敢提长孙无忌，因为他是太宗大舅子；也不敢提尉迟敬德和侯君集，二人都是武将，而且尉迟敬德老拳连世民弟弟脸上也不能幸免），反而功居一等，臣心不服。”李世民也不客气，当廷驳斥道：“义旗初兴，人各有心。叔父您虽率兵前来，也是因为惧祸怕被株连杀掉，而且从未亲自上阵打过仗。
与窦建德交手，您全军陷没（还被俘获，只是建德仁德没杀他。李世民给他面子没点破）；后来刘黑闼起兵，您又望风败逃。如今论功行赏，玄龄等人运筹帷幄，安定社稷，功比萧何，虽无汗马之劳，但能以大计居功一等。叔父您国家至亲，朕并不吝惜封赏，但不能因私情滥于功臣同
受奖励！”一席话，讲得这位常败皇叔惭愧退下，好没面子。
贞观二年，房玄龄改封魏国公，为尚书左仆射，监修国史。房玄龄尽心竭诚，夙兴夜寐。加之他明达吏事，法令宽平，任人惟贤，不分卑贱，论者皆称之为良相。
贞观三年（629年）二月为尚书左仆射，监修国史。贞观九年（公元635年），房玄龄护高祖山陵制度，以功加开府仪同三司。十一年封梁国公。与杜如晦、魏征等同为太宗的重要助手。
贞观十三年（公元639年），加太子少师。他留守京师。他任宰相十五年，女为韩王妃，儿子房遗爱尚高阳公主，显贵至极，但常常深自卑损，不敢炫人傲物。贞观十八年，李世民亲征辽东高丽，命房玄龄留守京城。
贞观二十二年(648年)，房玄龄病重，太宗派名医为其医治，每日供给御膳，并亲临探望。七月，房玄龄与世长辞，终年七十岁。临终之时，房玄龄对诸子说：“当今天下清平，只是皇上东讨高丽不止，正为国患。
主上含怒意决，臣下莫敢犯颜。我知而不言，就会含恨而死啊。”于是抗表进谏，请求太宗以天下苍生为重，罢军止伐高丽。太宗见表，感动地对房玄龄儿媳高阳公主说：“此人病危将死，还能忧我国家，真是太难得了。”临终之际，李世民亲至其病床前握手诀别，立授其子房遗爱为右卫中郎将，房遗则为中散大夫，使其在生时能看见二子显贵。房玄龄受遇如此，死时定当含笑。卒年七十，诚为喜丧之年。
太宗为之废朝三日，赠太尉，谥曰文昭，陪葬昭陵。唐大臣也是著名书法家的褚遂良，于唐永徽三年，为玄龄公墓刻“房玄龄碑”。碑文二千余字，其中最为知名的一句话是：“道光守器长琴振音，方嗣虞风仙管流声。”
房玄龄一直告诫儿子们不要以地望凌人，切勿骄奢沉溺，并集汇古今圣贤家戒，亲书于屏风上，分给各房子嗣，说：“如能留意上面的内容，足以保身成名。”然而玄龄公辞世后，“房遗爱谋反事件”，尽毁房玄龄一世忠贞，家族终为逆子恶妇所累，公主赐自尽，房遗爱伏诛，诸子都作为刑徒流配岭南。房遗直因父亲之功，总算保得不死，除名为庶人。
登录秀目号，与万千网友互动