朱元璋親自在劉伯溫和明初劉伯溫倡導南北朝時期的陶弘景。兩人都曾是風雲人物，兩人都厭倦了官場。他們主動退隱，選擇隱居深山，結局卻大不相同。壹個是名副其實的“山中宰相”，壹個是謹小慎微卻死於不義。
在世人眼中，朱元璋壹介平民，卻能在元末的競爭中逐壹殲滅眾多競爭對手，而劉伯溫在北伐中原、推翻元朝、建立明朝的過程中發揮了至關重要的作用。於是，人們常把他與三國時期的諸葛亮、秦漢時期的張亮、蕭何相提並論，提出“天下三分諸葛亮，劉伯溫壹統天下”！
這樣的贊譽固然說明了劉伯溫在國人心目中的崇高地位，但實際上劉伯溫在朱元璋手下的地位和官位遠不如張亮、蕭何、諸葛亮那麽顯赫。李善長退居二線，他的嫡系胡和在前壹波黨爭中保持中立，分別擔任左、右總理。這個時候，劉伯溫選擇了退休，退隱農村。
經過多年的疾病和死亡，劉伯溫成了壹個政治工具。退役兩年後，被降職，胡在朝鮮的主要對手全部銷聲匿跡。他可以為自己報仇。胡對的指責很快導致了劉伯溫的損失，而劉伯溫硬著頭皮回到南京道歉。
到1375年初，劉伯溫染上感冒，身體越來越差。朱元璋委托胡帶這位醫生去看病，開了壹些藥方。然而，劉伯溫的健康越來越差，朱元璋對他的病情很少關註。感覺大限將至的劉伯溫回到家鄉，不久就去世了。劉伯溫入宮時向朱元璋提起，說醫生的藥方沒用，病情反而加重了。劉伯溫的意思是，他對胡極不信任，懷疑胡與禦醫勾結，藥方裏有貓膩。
劉伯溫死後五年，朱元璋關於胡回國前毒死他的懷疑被朱元璋拿出來作為對付淮西集團的工具，成為胡的證據之壹，使劉伯溫的死因逐漸被扭曲得面目全非。此後，朱元璋發動了胡大案，淮西集團也隨之覆滅。