從壹個傳說來看，據說石敢當是住在泰山上的仙女。他非常強大和勇敢。他肩負著為下面的居民驅魔的重任。後來因為他的名氣越來越大，妖怪們壹聽到他的名字就不寒而栗，同時來求他的人也多了起來。有太多的惡魔要抓。
於是，石敢當大神找到了泰山的破石頭頭，刻上了“泰山石敢當”四個字。當人們來求他再次捉妖時，他把刻石送給了別人，並說只要放在房子上，妖怪就不敢再傷人了。
雖然只是傳說，但人們普遍認為，信其有，不信其無，做起來也不麻煩。就去做吧，說不定真的會有效果。直到今天，很多人早就默認了“泰山石敢當”四個字刻在自己的房子上，主要是為了辟邪，而不是為了裝飾。
為了理解這個想法，例如，在田裏放壹個稻草人，可以嚇得麻雀不敢在田裏偷米。同樣的道理，古代人認為在自家房屋的醒目處制造壹個石敢當的假象，就可以抵禦妖怪，從而起到驅邪的作用。
除了用來辟邪，在壹些地區，它還被用來改善房屋的風水，填補房屋的缺角。在老壹輩人看來，如果他們家少了壹個角落，就會給家人帶來厄運。所以把刻好的泰山石靠著房子缺角擺放，讓“時間(石頭)跑起來”。
當然，在現代社會之前，濃厚的迷信氛圍已經消散，人們更多的是把它作為壹種美好的願望來表達對幸福生活的向往。