蒙山大佛歷史非常悠久,始建於北齊。文宣帝下令在開化寺後山雕刻佛像,這是蒙山大佛的雛形。唐武宗時期,由於毀佛運動,佛像遭到大面積破壞。後來李克用、劉知遠等人出錢將其修復,佛閣和佛像基本修復。據史料記載,唐高祖李淵、唐高宗李治、武則天都曾參觀過蒙山大佛。
重新發現的蒙山大佛頭部已不見,但從腳到胸部仍有30米高,十分壯觀。雖然蒙山大佛早在1983年就被重新發現,並於2001年被列為太原市文物保護單位,但在發展旅遊業的大背景下,其修繕工程直到2006年才開始。重建的頭部高達12米,加上佛身,總高度達到了40多米。
現在蒙山大佛已經被開發成旅遊景點,蒙山大佛周圍有八尊佛像。當地政府壹直計劃修復剩余的八尊佛像,擴大景區規模,吸引全國各地的遊客,以獲得更好的經濟效益。