玄武門之變爆發前，局勢兇險，秦王府人人心神不寧，唯有虞世南依舊每日伏案整理典籍、書寫詩文，神色平靜。有人問他是否擔憂禍事，他答道：“秦王心懷天下，行事無愧蒼生，天道自有公道，不必過度惶恐。”
事變之後，李世民順利登基為唐太宗，改元貞觀。朝堂新舊交替，人心浮動，不少舊臣惶恐不安，虞世南主動勸諫太宗寬赦東宮、齊王府舊部，不計前嫌任用賢才，穩定朝野人心，避免大肆清算引發動盪。太宗採納其諫言，大赦太子舊臣，很多原本身陷險境的官員得以保全，貞觀初年朝堂迅速安定，虞世南的規勸功不可沒。
太宗登基之初，授虞世南著作郎，兼弘文館學士，負責修訂典籍、撰寫制誥、碑銘。一次太宗想要用《列女傳》裝飾宮廷屏風，倉促之間找不到完整底本，滿朝文臣無人能完整背誦，太宗忽然想起虞世南，即刻召他入宮。
虞世南提筆伏案，通篇默寫《列女傳》七卷，百餘名賢女子事蹟一字不差，無一處錯漏，書寫完畢呈給太宗閱覽，滿殿君臣無不驚歎。太宗感慨：“先生胸中藏書萬卷，尋常文人難以望其項背。”這件事傳遍宮中，更坐實了虞世南“博學一絕”的名聲。
貞觀初年，國家歷經隋末戰亂，典籍大量散失殘缺，朝廷急需整理、修補皇家藏書。虞世南常年深耕古籍整理，是最合適人選，不久升任秘書少監，後擢升秘書監，總管秘書省，掌管國家全部藏書、文史檔案，封永興縣子，後晉封永興縣公，世人因此稱其“虞永興”。
執掌秘書省期間，虞世南牽頭梳理宮中數萬卷藏書，區分經、史、子、集四部，修補破損古籍，抄錄失傳孤本，規範典籍收藏制度，構建起唐代完整的皇家藏書體系。同時他參與編纂《群書治要》，摘錄歷代帝王治國史料，供太宗日常閱覽，全書收錄典籍六千餘種，成為貞觀年間帝王治國必讀典籍，為“貞觀之治”提供充足文史借鑑。
處理公務之餘，虞世南依舊堅持書法創作。貞觀四年，太宗下詔修繕長安孔廟，祭祀先聖孔子，令虞世南撰文並親筆書寫碑文，這便是流傳千古的楷書神品《孔子廟堂碑》。
彼時虞世南已是七十餘歲高齡，筆墨功力卻爐火純青。
碑文楷書三十五行，每行六十四字，筆勢圓融遒麗，外柔內剛，沒有絲毫凌厲鋒芒，字裡行間滿是中正平和的儒者氣度，完美契合孔子溫良儒雅的聖人形象。
碑文刻石落成後，長安百官、學子爭相前往拓印，一時間石碑前人流絡繹不絕，拓本千金難求，後世評價此碑為“初唐楷書第一碑”，是虞世南“書翰一絕”的巔峰之作。
太宗本身酷愛書法，一心研習王羲之筆法，時常向虞世南請教寫字訣竅。太宗練習楷書時，始終寫不好“戈”部筆畫，一日提筆寫下“戩”字，特意留出右側戈鉤空白，召虞世南入宮補寫。補完之後，太宗把完整的字拿給魏徵品鑑，得意詢問：“朕臨摹虞世南筆法，是否有幾分相似？”
魏徵仔細端詳後直言：“整幅字跡都頗有神韻，唯獨戈部一筆，和虞世南本人筆跡分毫不差。”太宗聽罷大笑，既佩服魏徵眼光精準，更由衷認可虞世南的書法功底，此後但凡談論書法，必先召虞世南相伴。虞世南離世後，太宗時常對著虞世南遺留的字帖落淚，嘆息：“世南亡後，世間再無人與我論書。”
除去朝堂理政、書法典籍，虞世南的文辭造詣同樣頂尖，是初唐重要詩人，太宗口中“文辭一絕”名副其實。他詩文摒棄南朝綺麗空洞的辭藻，文字清淡質樸，內裡藏著文人堅守道義、不慕榮華的傲骨，其中流傳最廣、家喻戶曉的便是五言絕句《蟬》：
垂緌飲清露，流響出疏桐。
居高聲自遠，非是藉秋風。
這首小詩看似只是描摹林間秋蟬，實則是虞世南一生人格的寫照。蟬只吸食潔淨清露，棲身高高的梧桐樹上，鳴聲能傳至遠方，依靠的是自身身居高處、品行高潔，而非藉助秋風外力，暗喻自己半生不攀附權貴、不靠家世兄長，僅憑自身德行才名立足世間，清高氣節，一目瞭然。
這首詩寫於貞觀年間，彼時朝堂之上不少官員依靠鑽營、攀附帝王親信獲取高位，虞世南目睹官場風氣，借詠蟬明志，文字含蓄內斂，沒有半句憤世嫉俗的抱怨，卻把文人獨立自持的風骨寫得淋漓盡致，短短二十字，流傳千年，至今仍是中小學必學古詩。
虞世南存世詩文不多，大多收錄於《虞秘監集》，題材分為三類：一類是伴駕應制詩，隨太宗出遊、祭祀時所作，文字端莊典雅，貼合禮制，卻無阿諛奉承之語；第二類是詠物抒情小詩，以蟬、竹、梅、松等清雅物象寄託志向，意境清幽；第三類是奏疏碑文，《孔子廟堂碑》碑文、勸諫帝王的疏文，行文邏輯嚴謹，文辭簡練厚重，兼具文學美感與政治遠見。
他早年師從文壇大家徐陵，徐陵讀完虞世南早年文章，直言：“少年虞世南，完全領悟我的文章精髓，日後文壇，此人必佔一席之地。”可虞世南沒有照搬徐陵華麗文風，反而刪減繁複辭藻，追求簡約中正，開創初唐雅正文風，為後來王勃、楊炯、陳子昂詩文革新埋下伏筆。
貞觀六年，太宗功業漸盛，四方平定，百官爭相獻上《聖德論》，通篇堆砌溢美之詞，吹捧帝王功績。虞世南也寫下一篇《聖德論》，全文極少吹捧功績，大半篇幅都在規勸太宗：天下安定更要戒驕戒躁，慎終如始，不能因盛世放鬆自律，體恤百姓永不能忘，開創盛世容易，守住盛世艱難。
太宗讀完這篇與眾不同的《聖德論》，反覆品讀，把文章放置案頭時時翻看，時刻警醒自己，可見虞世南文字的力量，不在於辭藻華麗，而在於直擊本心、引人自省。
閒暇之時，虞世南常與太宗、弘文館學士一同酬和作詩。太宗偏愛雄闊大氣的詩篇，虞世南的和詩從不刻意迎合帝王喜好拔高氣勢，始終保持溫潤剋制的基調，字句之間藏著家國百姓，在初唐宮廷文人之中，獨樹一幟。
貞觀十二年，虞世南已是八十一歲高齡，常年伏案讀寫損耗身體，體弱多病，數次臥床不起，自覺精力不足以支撐秘書監、弘文館學士繁雜公務，正式向太宗上表，請求辭官歸鄉養老。
太宗起初堅決不肯應允，心中不捨這位陪伴自己二十載、時時提點自身的老臣，下詔書挽留：“先生學識德行天下無雙，朕遇事無人商議，萬萬不可辭官。”虞世南接連數次遞上辭呈，言辭懇切，訴說身體衰頹，無力處理公務，太宗見他態度堅定，實在不忍苛責，方才應允退休請求。
即便准許辭官，太宗依舊給予極高優待：保留銀青光祿大夫三品散官品級，弘文館學士身份不變，俸祿、隨從護衛全部和在職官員相同，不必每日入朝值守，只需每月入宮數次，與自己閒談典籍、論道書法。
退休後的虞世南居於長安城中僻靜宅院，閉門不出，每日讀書、練字、栽種花草，極少參與官場應酬。太宗時常放下政務，輕車簡從前往他的私宅探望，二人圍坐爐前，不談朝堂權謀，只聊古籍、書法、詩文，如同相交多年的老友，沒有半分君臣隔閡。
一次太宗登門，見虞世南家中陳設簡陋，桌椅器物樸素，家中沒有金玉珍寶、華麗綢緞，十分感慨：“先生身居高位數十年，封永興縣公，俸祿豐厚，卻依舊清貧如此，這份德行，滿朝文武無人能及。”當即賞賜大量錢糧錦緞，虞世南推辭再三，實在推脫不掉，才勉強收下，轉手分給家中貧苦親友。
同年秋天，虞世南病情急劇加重，臥床不起。太宗心急如焚，每日派遣多名御醫輪流診治，宮中使者絡繹不絕，早晚兩次進宮稟報病情，但凡有一絲好轉跡象，太宗都會面露喜色；病情反覆，太宗便整日心神不寧。
。世離詳安中家在南世虞的歲一十八，月一十年二十觀貞，天迴力無藥醫惜可
。容不無臣朝右左，久許哭痛，哀舉南世虞為位靈設殿別往前，會朝日當停暫佈宣刻即，神失場當息訊聞聽，務政理堂朝在正宗太，中宮傳耗噩
。得獲夠能臣文極，榮殊份這，一眠長己自與後日，陵昭葬陪南世虞許准，旨下宗太。號諡格規高極臣文代唐是，行德的好良純指專”懿“，就籍典章文他彰表”文“。”懿文“號諡賜，書尚部禮贈獲南世虞，制禮代唐照按
”。說言法無惜痛中心，法書今古談暢我與能人無再也，地之史文書藏，人的我點提刻時樣這有沒也再上之堂朝，了在不他今如，勸規言直面顧不會都他，失過點一有凡但我，一同如我與南世“：說人等齡玄房、徵魏對意特還他。看翻常時邊己自在留份一，奠祭前靈南世虞至送人派份一，份兩寫抄文詩把人命後完寫，篇詩的南世虞念悼下寫筆提宗太，餘之痛悲
。中其列位功之政輔、識學、行德憑僅，謀權靠不、功軍靠不，臣儒職文純的有裡臣功四十二閣煙凌是，位十二第列位南世虞，仰瞻世後供，閣煙凌於掛懸，像畫臣功國開位四十二製繪本立閻令下宗太，年七十觀貞
。習學仰瞻者好法書千萬供，本拓存留舊依林碑安西，日今至直，刻重刻復次多世後，損磨月歲經歷》碑堂廟子孔《廟孔安長。傳失脈文絕杜，存儲摹臨人專排安，稿手文詩、法書部全南世虞藏收久永館文弘令下，重敬的南世虞對宗太續延治李宗高唐，年初徽永
