حسب الاعتقاد الإسلامي، يرجع بناء الكعبة إلى عهد آدم الا انها دمرت عبر السنين ولم يبقى مكانها شيء إلى أن اوحى الله إلى إبراهيم بمكان البيت. ذكر القرآن: (وإذ بوأنا لإبراهيم مكان البيت أن لا تشرك بي شيئاً وطهر بيتي للطائفين والقائمين والركع السجود).
وهـكذا أمر الله إبراهيم ببناء البيت الحرام وذكر القرآن الكريم بناء إبراهيم وابنه إسماعيل للكعبة. ولقد جاءه جبريل بالحجر الأسود ولم يكن في بادئ الأمر اسود بل كان أبيضاً يتلألأ من شدة البياض وذلك لقول الرسول محمد (الحجر الأسود من الجنة وكان أشد بياضا من الثلج حتى سودته خطايا أهل الشرك) حديث.
ثم أعيد بناء الكعبة في عهد قريش، بعد عام الفيل بحاولي ثلاثين عاماً بعد أن حدث حريق كبير بالكعبة نتج عن محاولة امرأة من قريش تبخير الكعبة فاشتعلت النار وضعف البناء ثم جاء سيل حطم أجزاء الكعبة فأعادت قريش بناء الكعبة.
[عدل] عصر الرسول محمد- علية السلام
بعد أن فتح الرسول محمد صلي اللة علية وسلم مكة أزال ما كان على الكعبة من أصنام، وكان يكسوها ويطيبها، ولكنه لم يقم بعمل تعديل على عمارة الكعبة وما حولها كما لم يرجع الكعبة إلى سابق عهدها في أيام إبراهيم .
[عدل] عهد الخلفاء الراشدين
بقي المسجد الحرام على حاله طوال خلافة أبو بكر-رضي الله عنه- ثم العام السّابع الهجري، شعر عمر بن الخطاب-رضي الله عنه- بحاجة المسلمين إلى توسعة المسجد الحرام بعد أن زاد عدد الحجاج إلى المسجد الحرام سنوياً فاشترى البيوت المجاورة للمسجد، ووسّع بها ساحة المطاف وجعل لها أبوابًا يدخل الحجّاج والمعتمرون منها للطّواف حول الكعبة المشرفة.وكان عمر هو أول من أخر مقام إبراهيم عن جدار الكعبة فقد كان ملاصقاً فيها وذلك ليسهل الطواف وحماية لمقام إبراهيم . ثم في عهد عثمان بن عفان-رضي الله عنه- سنة 26 هـ، قام عثمان بتوسعة المسجد مرة أخرى كما بنى للمسجد أروقة وكان أول من بنى للمسجد الحرام أروقة.
يؤمن المسلمون أن المسجد الحرام هو المكان الذي أُسريَ بالنبي منه إلى المسجد الأقصى كما جاء في سورة الأسراء في القرآن:"سُبْحَانَ الَّذِي أَسْرَى بِعَبْدِهِ لَيْلاً مِنْ الْمَسْجِدِ الْحَرَامِ إِلَى الْمَسْجِدِ الأَقْصَى الَّذِي بَارَكْنَا حَوْلَهُ لِنُرِيَهُ مِنْ آيَاتِنَا إِنَّه هُوَ السَّمِيعُ الْبَصِيرُ