وقد ثبت عن عمر بن الخطاب ـ رضي الله عنه ـ أنه كان في سفر فرأى قومًا ينتابون مكانًا للصلاة فقال : ما هذا ؟ فقالوا : هذا مكان صلى فيه رسول الله صلى الله عليه وسلم، فقال : إنما هلك من كان قبلكم بهذا، أنهم اتخذوا آثار أنبيائهم مساجد، من أدركته الصلاة فليصل، وإلا فليمض. وبلغه أن قومًا يذهبون إلى الشجرة التي بايع النبي ﷺ أصحابه تحتها فأمر بقطعها. وأرسل إليه أبو موسى يذكر له أنه ظهر بتستر قبر دانيال، وعنده مصحف فيه أخبار ما سيكون، قد ذكر فيه أخبار المسلمين، وأنهم إذا أجدبوا كشفوا عن القبر فمطروا، فأرسل إليه عمر يأمره أن يحفر بالنهار ثلاثة عشر قبرًا، ويدفنه بالليل في واحد منها لئلا يعرفه الناس؛ لئلا يفتنوا به. فاتخاذ القبور مساجد مما حرمه الله ورسوله، وإن لم يبن عليها مسجدًا كان بناء المساجد عليها أعظم.
كذلك قال العلماء : يحرم بناء المساجد على القبور، ويجب هدم كل مسجد بني على قبر، وإن كان الميت قد قبر في مسجد وقد طال مكثه سوى القبر حتى لا تظهر صورته، فإن الشرك إنما يحصل إذا ظهرت صورته؛ ولهذا كان مسجد النبي ﷺ أولًا مقبرة للمشركين، وفيها نَخْلٌ وخِرَبٌ، فأمر بالقبور فنبشت، وبالنخل فقطع وبالخرب فسوىت، فخرج عن أن يكون مقبرة، فصار مسجدًا.