黃旗廟的建立，東莞有流傳甚廣的民間傳說：江西省著名的風水先生賴布衣，為東莞勘察寶地。賴布衣來莞時，登山越嶺，不要說皇帝、宰相的寶地，連狀元寶地也找不到。
壹天清早，來到黃旗地帶，朦朧中覺得這是壹塊出狀元的寶地，但中心穴點在哪裏？總找不出來。正發愁時，忽見不遠處有壹婦人穿白衣白褲，伏地作哭。賴布衣循聲上前壹看，那婦人所伏地點，正是狀元地的穴口。
這婦人為何伏於此穴口？難道她懂風水？賴布衣正要上前詢問，忽然壹陣風吹來。賴布衣連忙合上雙眼。拭目看時，那婦人已經不見。賴布衣方才明白，這婦女就是觀世音菩薩。賴布衣回去復命，人們聽說這是觀音顯靈的寶地，誰敢爭奪？便在此建了觀音廟。黃旗古廟，應建於北宋徽宗時期。
廟內有壹石匾：“寶安福地”。原因是隋代以，東莞地帶有寶山(在黃江)，因名寶安縣(包括今天的深圳市)。就是說，黃旗觀音廟是今天東莞、深圳兩市人民的洞天福地。故每逢過年過節，這裏香客如雲。
黃旗廟經歷代重修，從宋代至今保存完好，是東莞不可多得的名勝古跡。此外，黃旗古廟附近還有黃嶺道院、廉泉、廉泉亭、廉泉寺、黃嶺義冢、何仁山衣冠冢、陳應辰與青紫亭、遊蛇墓等文物古跡。