ثم سار رسول الله صلى الله عليه وسلم حتى دخل المدينة في مشهد مهيب ويوم مشهود في تاريخ المدينة والإسلام؛ فقد خرج الأنصار عن بكرة أبيهم رجالا ونساء وغلمانًا وجواري لاستقبال رسول الله صلى الله عليه وسلم وقد ارتجت البيوت والسكك بأصوات الحمد والتسبيح، وتغنت بنات الأنصار بغاية الفرح والسرور:
طلعَ البدرُ علينا *** من ثَنيَّات الوداع
وجَبَ الشكر علينا *** ما دعا لله داع
أيها المبعوثُ فينا *** جئتَ بالأمر المطاع
فكان لا يمر بدار من دور الأنصار إلا أخذوا خطام راحلته، وأراد كل واحد منهم أن يكون الرسول صلى الله عليه وسلم نزيله، فكان يقول لهم: «خَلُّوا سبيلَها؛ فإنها مأمورة» [الطبقات الكبرى لابن سعد ].
وظلت ناقة رسول الله صلى الله عليه وسلم تسير بأمر الله حتى بركت عند موضع مسجده اليوم.
وكان لغلامين يتيمين من الأنصار (سهل، وسهيل ابنا عمرو) من بني النجار، فاشتراه منهما بعشرة دنانير، وقد أرادا أن يجعلاه هبة لرسول الله صلى الله عليه وسلم فأبى.
وفي بني النجار وهم أخوال عبد المطلب، فَقَالَ النَبِيُّ صلى الله عليه وسلم: «أَيُّ بُيُوتِ أَهْلِنَا أَقْرَبُ؟»، فَقَالَ أبو أَيُّوبَ: «أَنَا يَا نَبِي الله هَذِهِ دَارِي وَهَذَا بَابِي»، فقَالَ صلى الله عليه وسلم: «فَانْطَلِقْ فَهَيِّئْ لَنَا مَقِيلًا» قَالَ: «قُومَا عَلَى بَرَكَةِ الله» (متفق عليه).
وقد سميت المدينة بطابة، فقد أورد مسلم حديثًا عن جابر أنه قال: سمعت رسول الله صلّى الله عليه وسلّم يقول: «إن الله تعالى سمى المدينة: طابا»، وقد سماها الله تعالى في كتابه العزيز «المدينة» في مواضع متعددة، كما وردت كذلك في السنة النبوية.
فَنَزَلَ النَّبِيُّ صلى الله عليه وسلم في دار الصحابي الجليل خالد بن زيد (أبي أيوب الأنصاري) رضي الله عنه. ثم لم يلبث أن شرع رسول الله صلى الله عليه وسلم في بناء المسجد النبوي، هو أول عمل بدأ به الرسول صلى الله عليه وسلم عند وصوله إلى المدينة، وذلك له ما له من دلالة على أهمية المسجد في الإسلام، فهو ملتقى للمسلمين في الصلوات الخمس، ومجتمع لهم برسول الله صلى الله عليه وسلم، ودار للمشورة، ومستقبل للوفود القادمة إلى المدينة للإسلام ومركزا لإدارة الدولة الإسلامية الوليدة..
لذلك حرص رسول الله صلى الله عليه وسلم على البدء به، بل كان صلى الله عليه وسلم- يشارك بنفسه في بناء المسجد ليلقي في نفوس أصحابه أهمية المشاركة الجماعية والعمل الجماعي، فكان صلى الله عليه وسلم ينقل الطوب اللَّبِن (الطوب النيئ) ويقول وهو ينقل اللبن: اللهم لا عيش إلا عيش الآخرة فاغـــفـر للأنصـار والمهـاجـرة.
ويعد المسجد نواة وركيزة أولى لبناء المجتمع المسلم، إذ إنه بمثابة المدرسة التي ترسخ في عقل المسلم ووجدانه العقيدة والأحكام وآداب الإسلامية، وهي بمثابة نموذج مصغر لمجتمع مثالي تمارس فيه تلك الشعائر والمعاني والآداب؛ لذا يُعد بناء المسجد النبوي إنجازًا من إنجازات الهجرة النبوية.