در سال (17هـ. ق.)، لشکر اسلام در مدائن حضور داشتند. آب و هواي مدائن سربازاني را که از سرزمين حجاز آمده بودند، اذيت مي کرد; به طوري همه آنها ضعيف و لاغر شدند. حذيفه که اين وضعيت را ديد، نامه اي به عمر نوشت و او را از وضعيت آگاه کرد. خليفه به سعد بن ابي وقاص نامه اي نوشت که: سلمان و حذيفه را روانه کن تا سرزميني مناسب بيابند. پس از دريافت نامه خليفه، سلمان و حذيفه حرکت کردند، سلمان از طرف باختر رود فرات و حذيفه از طرف خاور رود فرات راهي شدند و هيچ سرزميني را نپسنديدند تا اينکه هر دوي آنان به سرزمين کوفه رسيدند.هر دو آن سرزمين را براي اقامت لشکر مناسب ديدند. دو رکعت نماز خواندند و از خدا خواستند آنجا را جايگاه آرامش و استواري قرار دهد. هنگامي که سعد بن ابي وقاص همراه لشکريان به سرزمين کوفه رسيدند، دستور داد پيش از ساختن هر بنايي، مسجدي بسازند. ابو هيجاء اسدي در مکاني ايستاد و بر هر طرف تيري انداخت. به اين صورت حدود مسجد کوفه، مشخص شد.