事變結束，李建成、李元吉身死，唐高祖李淵被迫立李世民為皇太子。大局已定，李世民論功行賞，拜高士廉為太子右庶子，留在東宮輔佐自己處理朝政，大小國策，時常詢問他的意見。貞觀元年，李世民正式登基稱帝，即刻提拔高士廉為侍中，掌管門下省，參與朝廷最高決策，封義興郡公，賞賜九百戶實封，風光無限。
高士廉儀表端莊，談吐文雅，每次朝堂進言勸諫，言辭溫和卻切中要害，文武百官都十分敬重，但凡他有所奏請，滿朝文武都會凝神傾聽。可伴君之路從無一帆風順，不久後，一件小事，讓高士廉被貶出京城。
當時黃門侍郎王珪有一份密奏，託付高士廉轉交給唐太宗。高士廉看完密奏內容，認為時機不妥，便暫時壓下奏摺，沒有及時上報。太宗得知此事，認為高士廉擅自截留朝臣密疏，有損朝堂言路通暢，雖無惡意，仍將他貶為安州都督，不久後調任益州大都督府長史，前往蜀地治理西南，遠離長安朝堂中心。
驟然被貶外放，換做其他權貴外戚，難免心生怨懟，可高士廉毫無怨言，收拾行裝即刻前往益州上任，反倒把這次外放，做成了造福一方百姓的政績，在巴蜀之地留下千古美名。
抵達益州後，高士廉第一件事便是走訪民間，體察蜀地風土民情。當時巴蜀地域民俗淺薄落後，百姓普遍畏懼鬼神、厭惡病患，家中父母病重垂危，子女不願近身照料，只用木棍挑著飯菜，遠遠放在屋外，隔空餵食，全然不顧至親病痛，孝道淪喪；同時當地好勇鬥狠，鄰里極小矛盾便聚眾鬥毆，偷盜、祭祀巫蠱之事層出不窮，教化長期缺失。
見此亂象，高士廉沒有簡單頒佈嚴苛法令強行約束，而是因地制宜，溫和教化。他下令各州縣官吏下鄉宣講孝道倫理，設立鄉學，向百姓宣講侍奉父母、友愛鄰里的道理；同時出臺規定，但凡家中親人患病子女拒不照料者，予以勸誡懲處。日復一日引導規勸，短短兩三年時間，巴蜀陋習徹底改觀，百姓主動照料患病長輩，孝悌之風遍佈城鄉，民間鬥毆、巫蠱之事大幅減少，當地風俗煥然一新。
民生層面，他延續早年在嶺南務實理政的風格，大力興修水利。秦代李冰修建都江堰，疏通汶江水道，造福蜀地千年，可時至唐初，部分渠道淤塞，灌溉範圍縮減。高士廉調集民夫，深挖拓寬舊有水渠，新開支流，擴大農田灌溉面積，平原萬頃良田不再懼怕乾旱，糧食產量連年上漲，百姓收成翻倍，家家戶戶豐衣足食。
文化教育更是高士廉治理蜀地的重中之重。他劃撥官府銀兩，修繕各地荒廢學堂，廣招飽讀詩書的儒生入駐講學，鼓勵城中、鄉村子弟入學讀書；閒暇之時，他親自組織文人詩會，匯聚蜀中才子切磋詩文，推動巴蜀文風興盛。原本文化沉寂的西南之地，讀書求學成為風氣，不少寒門學子透過讀書走入仕途，蜀地文脈自此再度興盛。
除此之外，高士廉尊重山野隱逸之士，氣度廣為流傳。當時蜀地有一位隱士朱桃椎，淡泊名利，隱居山中，不與世人往來，常年編織草鞋放在路邊，百姓放下米糧自行取鞋，二人從不見面，當地百姓都將他視作世外高人。以往歷任益州長官，大多輕視隱居之人，無人願意登門拜訪。高士廉聽聞朱桃椎事蹟，特意備好厚禮，親自前往山中登門求見，放低身段與之交談。朱桃椎性情孤僻，全程一言不發，直視高士廉後轉身走入山林。
即便遭到冷遇，高士廉也毫不介懷，此後時常派人送去衣物、糧食，派人慰問起居，從不打擾隱士清淨。此事傳遍整個蜀地，百姓、官吏紛紛感嘆高士廉禮賢下士、胸襟寬廣，成為蜀中代代流傳的美談。
在益州數年，高士廉政績斐然，吏治、民生、教化、水利全方位革新，西南邊境安定祥和。貞觀五年，唐太宗念及高士廉才幹，下旨將他調回長安，升任吏部尚書，晉封許國公，額外賞賜一子縣公爵位，重回大唐權力核心。
回到長安擔任吏部尚書，是高士廉政治生涯最重要的階段之一。吏部掌管全國官員選拔、升遷、考核，職權重大，極易滋生徇私舞弊、結黨營私的亂象，可高士廉任職期間，做到公允無私，朝野無人質疑。
史書評價他“獎鑑人倫，雅諳姓氏，凡所署用，莫不人地俱允”。一方面，他識人眼光精準，善於分辨人才品性、能力，不因出身門第偏袒；另一方面，他自幼鑽研譜牒世系，熟悉天下各大世家源流，選拔官員時兼顧才幹與家世平衡，寒門有才者予以提拔，世家有德者合理任用，每一次官員任免，都讓文武百官心服口服，沒有半句非議。
貞觀九年，唐高祖李淵駕崩，朝廷籌備皇陵喪葬大典，禮制流程繁雜，責任重大。太宗特意委任高士廉代理司空，全權負責高祖山陵全部規制、祭祀禮儀。高士廉精通曆代禮法，周密安排所有流程，喪葬大典莊重有序，沒有絲毫疏漏，典禮結束後，太宗加封他特進、上柱國，給予極高榮譽。
彼時朝堂存在一樁困擾唐太宗許久的頑疾：山東崔、盧、李、鄭老牌士族，雖歷經戰亂，家族勢力早已衰敗，手中沒有實權，卻依舊自持數百年門第高貴，極度輕視皇室、寒門官員。士族之間婚嫁，漫天索要高額聘禮，如同買賣兒女，將婚姻視作斂財工具；朝堂之上，山東舊士族官員互相抱團，私下鄙夷李唐皇室出身，太宗對此深惡痛絕，認定這種風氣嚴重損傷禮教、動搖皇權根基。
為徹底扭轉門第歪風，重塑天下等級秩序，太宗下詔，命高士廉牽頭，聯合御史大夫韋挺、中書侍郎岑文字、禮部侍郎令狐德棻，收集天下所有世家譜牒，對照正史核查真偽，區分忠良與奸惡門第，重新劃分天下士族等級，編撰一部全新典籍《氏族志》。
領下皇命後，高士廉耗費數年時間，走遍各州調取族譜，考證數百年世家興衰，整合兩百九十三姓、一千六百五十一家，初步劃分為九等門第，完成初稿進呈太宗。可初稿之中，山東崔氏依舊位列天下第一等，皇室李氏僅排在第二，太宗看完十分不滿，直言點出問題核心：
“朕平定四海，天下一統，如今朝堂百官，無論出身寒門還是世家，皆為朕所用。崔、盧這類舊士族早已衰落，無官無權，卻仗著舊日虛名抬高自己，婚嫁斂財，世人偏偏追捧他們，朕實在無法理解。如今修訂《氏族志》，不必看重舊日門第，應以當朝官爵高低劃分等級，皇室宗室定為第一，外戚次之，山東舊士族必須降級！”
高士廉聽完太宗旨意，立刻帶領編撰團隊重新修訂，嚴格按照當朝功勳、官品排序：李唐皇室宗族列為第一等，太宗外戚長孫氏、高氏列為第二等，原先高居榜首的山東崔、盧、鄭、李盡數降為第三等，寒門功勳官員依據官職提升門第等級。
全新百卷《氏族志》定稿頒佈天下，一舉打破魏晉南北朝以來近四百年“以舊門第定高低”的固化格局。從此衡量身份地位的標準，從“祖上是誰”轉變為“當朝立有何等功勳、身居何等官職”，極大削弱山東老牌士族的社會特權，抬高皇室與寒門功臣地位，鞏固大唐中央皇權，重塑整個社會的價值導向，為貞觀年間寒門人才源源不斷入朝為官掃清巨大阻礙。這部典籍，成為高士廉留給大唐最重要的文化、政治遺產，影響後世數百年門第制度。
完成《氏族志》編撰後，高士廉升任尚書右僕射，正式拜相，同中書門下三品，躋身大唐最高宰輔行列，每日與房玄齡、魏徵等人一同輔佐太宗處理全國政務，大小國策多有建樹。
身居宰相高位，手握選拔百官、參與國策的大權，高士廉始終保持低調謹慎。所有給太宗的上書、諫言，呈遞之後立刻親手焚燬草稿，家中子女、僕從從未見過他的奏疏內容，朝堂建言、君臣對話從不向外洩露半分，杜絕內外勾結、私下散播朝堂言論的隱患。他待人寬厚溫和，即便官員與自己政見相悖，也不會打壓排擠，凡事以大局為重，朝堂上下，無論文臣武將，都稱讚他是公允寬厚的宰相典範。
貞觀十七年，太宗感念追隨自己打天下、治盛世的功臣，下令閻立本繪製二十四功臣畫像懸掛凌煙閣，按功勳、親厚、貢獻綜合排序，高士廉位列第六，僅次於長孫無忌、李孝恭、杜如晦、魏徵、房玄齡，遠超李靖、尉遲恭等戰功赫赫的名將，足以見得太宗心中他的分量。
彼時高士廉年過六十，常年操勞政務，身體日漸衰弱，時常患病，太宗時常派遣御醫前往府邸診治，賞賜名貴藥材、滋補食材，但凡民間有珍稀補品，必先賞賜給高士廉。閒暇之時，太宗時常召他入宮閒談，不談朝堂政務，只敘兩家親情，追憶早年高士廉收留長孫兄妹、促成姻緣的舊事，二人相處如同尋常家人，沒有帝王與臣子的森嚴隔閡。
貞觀二十年之後，高士廉病情加重，常年臥病在床，難以正常入朝議事，太宗多次親臨高府探望。貞觀二十一年正月，高士廉病危，太宗準備即刻動身前往府邸探視，百官紛紛上前勸阻：陛下萬金之軀，不宜頻繁出入臣子私宅，況且高士廉病重，陛下前去容易沾染病患之氣。
太宗卻搖頭反駁：“士廉既是朝中重臣，亦是朕的至親長輩，早年若無他，朕便娶不到長孫皇后，沒有今日的盛世基業。如今他時日無多，朕豈能不去見最後一面？”說罷執意動身。長孫無忌當時正在宮中，急忙跪在太宗馬前，痛哭叩首，轉述舅舅高士廉遺言，反覆懇求陛下不必親自登門，不願帝王為自己操勞。僵持許久，太宗才勉強停下腳步，折返皇宮，站在宮中東苑，面向高府方向痛哭良久，滿朝官員無不動容。
沒過多久，高士廉在家中病逝，享年七十二歲。噩耗傳入宮中，太宗痛哭不止，下令輟朝三日，追贈司徒、幷州都督，賜諡號“文獻”，按最高規格陪葬太宗昭陵，給予臣子頂級哀榮。
下葬當日，靈柩隊伍途經長安橫橋，太宗登上城樓西北高樓，望著送葬隊伍遠去，再度放聲大哭，以此送別相伴半生的舅父與重臣。恰逢寒食節，太宗專門派遣宮中女官，攜帶豐盛祭品前往高府祭奠，並且親自提筆撰寫悼念碑文，一字一句飽含惋惜悲痛。
。有人一他有僅中之戚外唐初，榮殊份這，祀祭季四王帝世後，廟宗配，廟太宗太遷位牌廉士高將旨下，尉太贈追度再，德恩的宮後持扶、宗太佐輔年當廉士高念，基登治李宗高唐來後
。折波遇遭族家，罪獲期後忌無孫長因卻，遂順途仕年早，風家襲承皆人二，行真高子次，行履高子長，子二有育廉士高
。上任於逝病後之年數，州洪遷遠，放外貶，連牽到，弟表忌無孫長是因行履高，罪獲族全，反謀陷構宗敬許、天則武遭忌無孫長，間年徽永。績政有頗，慎謹廉清為，驗經的地蜀理治親父承繼，史長府督都大州益、書尚部戶至，主公東之宗太唐娶迎，份戚外與勳功親父藉憑，行履高子長
。地之荒蠻於卒終最，南嶺放流，貶其將，無忍殘他惡厭宗高唐，議非野朝到遭，冷酷殘過太舉此，子兒生親殺刺刀持手親，心忠表為，族全連株懼畏行真高。家高回押被，件案反謀賢李子太懷章捲，吏府子太宮東任擔岐高子其。端極事行，烈剛格，郎侍部戶任曾，行真高子次
。及波的鬥爭權皇過躲以難，份戚外兼族家，堂朝雜複的起崛后武惜可只，允公、廉清、悌孝子導教格嚴，時世在廉士高。壞敗風家廉士高非並，波風堂朝的案一忌無孫長於在源，滿圓上不算局結子兒個兩
