建國初期,他還擔任中共中央紀律檢查委員會書記,為加強執政黨建設,維護黨的組織紀律,克服黨內各種不良傾向,保持黨的優良作風,做了大量卓有成效的工作。他還多次出國訪問,會見外國友人,增進了中國和其他國家人民之間的友誼。