之後，他提拔霍光的兒子霍禹為大司馬，明升暗降，剝奪了他掌握右將軍屯兵的實權。
還對上書制度進行了改革，下令吏民上書，首接呈皇帝審閱，不必經過尚書，把霍山、霍雲領尚書事的職務架空起來。
透過這一系列步驟，霍家掌握的權力剝奪殆盡，權力逐漸集中在漢宣帝的手中。
面對漢宣帝全面奪權的行動，霍家集團內部惶恐不安，決定鋌而走險，舉行叛亂，推翻漢宣帝，保住他們的既得利益。
但叛亂在嚴陣以待的漢宣帝面前很快瓦解了。
漢宣帝大規模地鎮壓了霍氏集團的叛亂，將參加叛亂的人都處以極刑，並廢除了霍皇后（霍光次女霍成君），在西漢朝廷中盤踞了十幾年的霍家勢力一朝覆滅，漢宣帝最終確立了他的絕對統治。
漢宣帝徹底清除了霍氏的勢力，可以大刀闊斧的施政了。
劉詢早年生活在民間，深知吏治好壞將首接關係到百姓的生存發展與社會的和諧穩定。
他說“吏不廉平則治道衰”。
所以，他即位後，除親自過問政事，省去尚書這一中間環節，恢復了漢初丞相既有職位又有實權的體制外，還特別重視地方長吏的選拔和考核，並下大力氣整飭吏治。
為此，劉詢建立了一套對官吏的考核與獎懲制度。
他多次下詔對二千石（郡守級官吏），實行五日一聽事制度；
並不定期派使者巡行郡國，對二千石官員的工作進行考察。
根據考核結果，信賞必罰。
他頒佈詔令說：“有功不賞，有罪不課，雖唐虞猶不能化天下。”
在他當政時，一大批因政績突出的官員受到了獎勵，或以璽書勉勵，增秩賜金，或爵關內侯，升任九卿或三公。
對那些不稱職或有罪的官吏，則嚴懲不貸。
隨著這些措施的推行，一大批“良吏”便逐漸造就而成。
其中，還有許多官吏是由低階郡吏察廉晉升而來，或因明經而被提拔。
宣帝時期，是官吏“久任”制發展到較為完備的時期。
這主要表現在兩個方面：
其一，把官員“久任”的實施範圍由中央大臣擴大到高階地方官員。
不僅侍中、尚書等參掌朝政的親信近臣得蒙榮寵，郡太守一級的高階地方官也多有“久任”者。
漢代的郡國介於中央與縣之間，在中央與地方的關係中，郡國守相起承上啟下的作用。
郡國守相的好壞，不僅關係到一方的安寧與否，也關係到國家的治亂興衰。
所以，劉詢對郡國守相的選任，十分慎重和嚴格，規定先由朝中大臣舉薦，然後擇日親自召見考核，詢問治國安邦之術。
著名循吏龔遂被任命為渤海太守，就是其中一例。
