西元581年，楊堅廢周稱帝，建立隋朝，改元開皇，是為隋文帝。
隋朝建立後，隋文帝感念李德林的開國大功，立即任命他為內史令（內史省最高長官，相當於宰相），封上儀同，進爵安平縣子，後襲父爵，進爵安平縣公。
平陳之後，又授柱國，封安平郡公，食邑二千戶，賞賜無數，極盡榮寵。
此時的李德林，官至宰相，爵至郡公，與高熲、楊素併為隋朝開國三大核心文臣，位極人臣，風光無限 。
作為開國元勳，李德林參與了隋朝幾乎所有重要國策的制定，為隋朝的穩定和發展立下汗馬功勞。
他參與修訂《開皇律》，主張寬刑簡政、輕徭薄賦，廢除北周嚴苛法律，減輕百姓負擔。
他策劃平陳方略，為隋文帝統一江南、結束三百年南北分裂提供重要謀略支援。
他整頓朝廷典章制度，修訂禮樂，規範朝儀，讓隋朝朝廷秩序井然、煥然一新。
他還繼續修撰《齊史》，整理北齊史料，為後來《北齊書》的成書奠定基礎 。
隋文帝對李德林極為倚重，幾乎每日都要召見他，商議朝政，聽取他的意見，對他言聽計從 。
此時的李德林，達到了人生的巔峰，才華得到極致發揮，權力與榮耀集於一身，堪稱“隋朝開國第一文臣”。
李德林才華橫溢、能力出眾，但性格上有一個致命缺陷——剛直不阿、直言敢諫、不善權謀、不懂揣摩帝王心思。
他一生以儒者自居，堅守原則，敢於直言，從不阿諛奉承、趨炎附勢，更不會察言觀色、討好皇帝。
這種性格，在和平年代、遇到開明君主時，或許能得到重用；但在專制皇權時代、遇到猜忌心重的帝王時，註定會惹禍上身。
隋文帝楊堅，雖然雄才大略、勤儉治國，但猜忌心極重，且極為自負，不喜歡大臣直接反駁自己、指出自己的錯誤。
李德林的剛直，很快就讓他與隋文帝之間產生了嫌隙。
第一件事：反對鄉正制度，直言朝政弊端。
開皇初年，隋文帝為加強地方管理、整頓吏治，打算設立“鄉正”一職，負責民間訴訟、教化百姓。
李德林堅決反對，認為鄉正制度容易滋生腐敗、濫用職權，加重百姓負擔，不可推行。
他多次在朝堂上直言進諫，列舉鄉正制度的種種弊端，堅持反對設立。
後來事實證明，李德林是對的，鄉正制度推行後，弊端叢生，隋文帝不得不廢除這一制度。
按理說，李德林堅持真理、直言敢諫，應該受到表揚；但隋文帝卻覺得李德林當眾反駁自己、讓自己下不來臺，心中極為不滿，對李德林開始疏遠。
第二件事：直言法律不可朝令夕改，觸怒文帝。
廢除鄉正制度後，李德林又上奏隋文帝：“陛下，法令是國家根本，一旦制定，不可隨意更改。以後制定法律，務必慎重，不可朝令夕改，否則百姓會懷疑朝廷威信。臣建議，以後誰敢隨便亂改法律，就按軍法從事！”
這番話，本意是好的，是為了維護法律的嚴肅性和朝廷威信；但在隋文帝聽來，卻是在指責自己“朝令夕改、治國無方”。
隋文帝勃然大怒，拍案而起，厲聲斥責李德林：“爾欲將我作王莽邪？”（你是不是想把我當成王莽啊！）
這句話，分量極重。
王莽是篡漢的權臣，靠頻繁改制、亂改法令把國家搞亡，最後身敗名裂、遺臭萬年。
。能無國治、正不位得他示暗，莽王作比他把人別恨最，的臺上”代禪“過是就己自帝文隋
。任信去失底徹此從，骨之恨他對帝文隋讓，面暗和懼恐的深最心帝文隋了中接直，話句這林德李
。疑遭德私，陷誣人被：事件三第
。軍將遠鎮、士博學太到做只高最親父上際實但，）高（”議諮尉太“任曾親父稱中摺奏在曾，爵贈追的高更取爭親父給為林德李，年早
。見罕算不也場時當在，譽榮高更得獲能後死親父讓想，心孝於出是本林德李，事件這
。”壞敗德私、上罔君欺、父稱妄“林德李陷誣，告帝文隋向機趁便人些這，臣大等茂陳、元李了罪得林德李，來後但
。倒扳舉一他將機時待等，發不忍時暫是只，點頂了到達滿不的林德李對中心，油澆上火是更，後事此到聽，久已怨積林德李對就本帝文隋
郡州死困，放外貶被
。了手下林德李對，會機了到找於終帝文隋，）年195（年一十皇開
。見己持堅，駁反言直眾當，合不見意帝文隋與事小件一因又林德李，事議堂朝次一
：”狀罪“大三的林德李落數眾當，作發場當，忍可無忍帝文隋
。相睦和臣大與法無，人容能不，大不量氣、隘狹心卻，機管掌，令史為，一第
。悖相》經孝《子孔與，理倫家儒背違，”教設須何，天由孝“稱聲，”下天治孝以“對反，二第
。廷朝騙欺，壞敗德私，上罔君欺、父稱妄，三第
）！職任州個一去你派我在現（”！耳遣相州一以當今“：佈宣場當帝文隋，畢完落數
。史刺州湖為貶，職一令史去免被林德李，樣這就
”。憾無而死，園田歸後然，禮盛睹一，日之告功大、山泰封登下陛等，散個當，城京在留能求只，令史復敢不臣“：道求請，恩謝首叩能只，何奈可無又卻，憤悲中心林德李
。史刺州懷的遠偏更任轉他將又後久不，城京在留他許不，絕拒然斷帝文隋
。獄地跌堂天從同如，說來林德李對，差落種這，史刺的郡州遠偏為貶被，相宰的樞中掌權、臣人極位從
。任上州懷往前，城京開離然黯能只，說訴無又卻，涼悲心滿他
。苦困活生姓百，劣惡候氣，瘠貧地土，方北地州懷
。所失離流姓百，收無粒顆，旱大地當逢恰，後任到林德李
。田農溉灌井掘姓百織組令下林德李，姓百救拯、旱解緩為
。”益補無竟，擾勞致空“終最，微甚效收卻，力力人量大費花井掘，低位水下地，差件條質地地當於由但
。”姓百恤不、財傷民勞、方無理治“林德李劾彈，帝文隋奏上，知得門部績考廷朝被事此
。責貶行進林德李對令下，氣生加更，後摺奏劾彈到看，滿不林德李對就本帝文隋
。的林德李了毀摧底徹，劣惡的境環、抑的神、意失的場、擊打的連接
。署州懷，秋深，）年295（年二十皇開
。他著伴陪稿殘》史齊《的完未上案有只，料照人無邊，起不床臥，病重患林德李
。 歲一十六年，逝病署州懷在，臣文代一的舛多運命、溢橫華才位這，終最
史青留名，榮哀後
。 ”文“為號諡，史刺州廉、軍將大為他贈追旨下，愧有中心是許或，功大國開的他及念是許或帝文隋，後逝病林德李
。榮哀後的高極了予給，鄉回柩靈送護，部一吹鼓、人百軍林羽派令下帝文隋，日之葬下
。卷七十二》史齊《、卷五》集朝霸《、卷十八集文有，頗述著生一林德李
。 一之史四十二為，世後傳流，卷十五》書齊北《完終最，》史齊《撰修續繼，志父承繼藥百李子兒，後世去他
。》書齊北《的來後有沒就，基奠的林德李有沒，說以可
；臣文代一的基奠隋開、朝三定筆是他
；者儒骨風的阿不直剛、世蓋華才是他
。人劇悲的窮志盡才、敗功是他
。迪啟與示警以人給，間意經不在是總，史歷
