大別山位於中國安徽、湖北、河南三省交界處,西有桐柏山,東有霍山(又名萬山)、張八嶺。東西長約380公裏,南北寬約175公裏。西段為西北-東南走向,東段為東北-西南走向,長270公裏,海拔500-800米。
大別山主體海拔約1500m,是長江和淮河的分水嶺。大別山主峰白馬尖(海拔1777米),位於安徽省六安市霍山縣。大別山西望武漢,東臨南京。其獨特的地理位置使其對民國首都南京和中心城市武漢具有重要的軍事價值,這也是劉鄧軍隊挺進大別山的地理前提。