您國家至親，朕並不吝惜封賞，但不能因私情濫於功臣同受獎勵！”一席話，講得這位常敗皇叔慚愧退下，好沒面子。
貞觀二年，房玄齡改封魏國公，為尚書左僕射，監修國史。房玄齡盡心竭誠，夙興夜寐。加之他明達吏事，法令寬平，任人惟賢，不分卑賤，當時論者皆稱之為良相。他任宰相十五年，女為韓王妃，兒子房遺愛尚高陽公主，顯貴至極，但常常深自卑損，不敢炫人傲物。
貞觀十八年，李世民親征遼東高麗，命房玄齡留守京城。貞觀二十三年，房玄齡舊疾復發，當時李世民在玉華宮，聞訊命人用自己的擔輿把房玄齡抬入御座前，兩人相見，感懷流淚，哽咽不能言。
太宗命太醫去這位功臣家裡療治，每日以御膳供房玄齡食用。聽說他病有好轉，太宗就喜形於色；聽見病情加重，太宗馬上愁容頓現。
臨終之時，房玄齡對諸子說：“當今天下清平，只是皇上東討高麗不止，正為國患。主上含怒意決，臣下莫敢犯顏。我知而不言，就會含恨而死啊。”於是抗表進諫，請求太宗以天下蒼生為重，罷軍止伐高麗。
太宗見表，感動地對房玄齡兒媳高陽公主說：“此人病危將死，還能憂我國家，真是太難得了。”
臨終之際，李世民親至其病床前握手訣別，立授其子房遺愛為右衛中郎將，房遺則為中散大夫，使其在生時能看見二子顯貴。房玄齡受遇如此，死時定當含笑。卒年七十，誠為喜喪之年。太宗為之廢朝三日，贈太尉，諡曰文昭，陪葬昭陵。
房玄齡一直告誡兒子們不要以地望凌人，切勿驕奢沉溺，並集匯古今聖賢家誡，