مسجد جامع گرگان در بافت قدیمی نزدیک بازار نعلبندان در محله «پای سرو» -از محلات مرکزی و تاریخی شهر- قرار دارد.
از آنجا که گرگان شهری است با آب و هوای معتدل و مرطوب، بناها به نسبت سایر شهرها سریعتر رو به ویرانی میروند، از اینرو آثار و سازههای تاریخی در استانهای شمالی نسبت به مناطق خشک و کویری کمتر دیده میشود. مسجد جامع گرگان نیز از این امر مستثنی نیست. بنای اولیه این مسجد به زمان سلجوقی میرسد، اما به دلیل همان هوای مرطوب طی سالها و قرنها آسیب دید و نهایت مرمت شد. چنانکه از معماری زمان سلجوقی تنها منارهاش باقی مانده و بقیه قسمتهای این مسجد یا به زمان قراقویونلوها میرسد یا به زمان صفوی، یا تیموریان.
این مسجد در زمینی به مساحت 2420 متر مربع بنا شده است، سالها پیش اطراف این مسجد قبرستانی بوده که با توسعه شهرنشینی جز بافت شهری در آمد. مسجد جامع گرگان جز مساجد دو ایوانی است با صحنی به مساحت 750 مترمربع و چهار شبستان با شکل L که بازشوهای آن به صحن مسجد در 5 باب ساخته شده است. هنگامی که جمعیت نمازگزاران و یا شرکت کنندگان در مراسم زیاد باشند از فضای شبستان شمال شرقی سه درب عریض به سالن اجتماعات طبقه همکف که کتابخانه است باز میشود تا مراسم راحتتر انجام شود.
از 2 ایوان این مسجد، ایوان غربی مورد استفاده بیشتری قرار میگیرد شاید به خاطر نور مناسبی که دارد، است. همچنین برگزاری اعیادی مانند نیمه شعبان در این ایوان برگزار میشود، علاوه بر آن، منبر، دو لنگه در و چهارچوب آن -که از قدمت زیادی برخوردارند- سنگهای فرمان، وقف نامههای نصب شده و تزئینات چدنیکاری در این ایوان قرار دارد. از این 19 کتیبه سنگی که بر دیوار داخلی ایوان غربی نصب است قدیمیترین آن برمیگردد به زمان قراقویونلوها زمانی که جهانشاه قرایوسف حکمران بوده است.
این مسجد دارای یک مناره با ارتفاع کم است،که از قدیمیترین بخش مسجد محسوب میشود که قدمتش به دوره سلجوقی برمیگردد، این مناره استوانهای، متنی با خط کوفی دارد و تزئیناتی به شیوه آجرکاری دوره سلجوقی که در انتهایش ماذنهای قرار دارد با سقف شیروانی و ساختار چوبی که قدمت مسجد را بیشتر نشان میدهد. از قدیمیهای دیگر مسجد منبر چوبیِ زیبا و حکاکی شده از گُل و بته و احادیث پیامبر است که تاریخ ساخت آن به زمان تیموری میرسد، این منبر در زمان صفویه و افشاریه دوباره مرمت شد، از آثار دیگرِ مربوط به دوره تیموری دو لنگه در و چهارچوب آن است -در سطور بالا ذکر آن رفته- که در ایوان غربی نگهداری میشود.
اینکه این مسجد در چه تاریخی و به دست چه کسی ساخته شده اطلاع کافی در دست نیست، «سهمی جرجانی» در کتاب «جرجان» بانی آنرا «محمد بن خالد حنظلی رازی» دانسته است. دکتر ستوده در کتاب «از آستارا تا استرآباد» بانی آنرا گوهرشاد همسر شاهرخ تیموری میداند، «مقدسی» تاریخ آنرا به زمان امویه نسبت میدهد و «اعتمادالسلطنه» در کتاب «مرآت البلدان» بانی مسجد را اهل تسنن و تراکمه معروف به طایفه ایمر میداند.
برای استحکام بنا از تیرهای جوبی استفاده شده، چوبهایی که در برابر هوای مرطوب استحکام زیادی دارند، چوبهایی از درختان بلوط و سرخدار، درختانی که بومی همین محل هستند اما به علت برداشت بی رویه تقریبا رو به انقراض هستند. این مسجد بعد از سلجوقیان بارها مورد مرمت قرار گرفت، گاهی بر اثر زلزله 1225ه.ق فرو ریخت و گاهی بر اثر حریق، گاهی هم به دلیل رطوبت زیاد، از اینرو در دورههای مختلف از جمله تیموریان، صفویان، افشاریه مورد مرمت و بازسازی قرار گرفت. این بنا در سال 1311 به ثبت ملی رسیده است.