明初，由於運河航道淤積，濟寧至臨清的水運受阻。經查，工部尚書、汶上民間水利學家在岱村築壩遏文水，馴服文水西行，從入關，北流七分，助張、魏；三分流南助黃淮，水運暢通。龍王廟建在這裏後，取名“分水龍王廟”。
龍王廟大殿，長27米，寬13米，高13米，金碧輝煌，紅墻綠瓦，竹門屏，飛檐鬥拱，斜山站角，有風鈴，四梁八柱，重梁重框，雕梁畫棟。
寺內有22尊雕像，中間是龍王坐像，高約3米。雕像前、左、右各有兩個站立的雕像，壹個舉著“璽”，壹個舉著“聖旨”，雕像前還有壹個站立的雕像。後墻左側也是兩個坐像(壹個是曹彰河總督，壹個是金龍四王)；在右邊，靠近後墻的地方，也有兩個坐著的雕像(壹個是宴會用的，另壹個是蕭公用的)。殿內有兩尊雕像，靠墻而立，各持不同兵器，服飾各異，有風神、雷神、雨神、閃神、雹神。右前角和左前角分別雕刻有“土地”和“運河指揮”的雕像和四個站立的雕像，都很精致，栩栩如生。
殿上掛有30塊匾額，是明清時期的名臣神仙所寫。壹進廟門，就有壹塊“奮勇劈流”四個字的牌匾高懸，正中上方掛著“廣濟分流”、“疏通交通”、“司文為難”三塊牌匾，兩邊還有“總制分流”、“廣濟共同體”等牌匾。
龍王廟當年香火鼎盛。到1940年代，仍有6個和尚，占地1，000畝。20世紀40年代末，僧侶們紛紛回歸世俗。寺廟在管理上逐漸疏於管理，在“文革”中受損尤為嚴重。龍王廟的大雄寶殿、水鳴樓、戲樓、牌坊全部被毀。