در واقع گویا در گذشته یعنی قبل از ایجاد حرم مطهر رضوی، زمینی که اکنون مسجد بالاسر نام دارد، بخشی از منزل حُمید بن قحطبه، والی خراسان در زمان امام رضا(ع) بوده است که در قرون اولیه هجری قمری تبدیل به مسجد شده و از آن مسجد فقط همین بخش کوچک باقی مانده است.
وقتی مسعود غزنوی در دوره غزنویان به حکومت می‌رسد، ابوالحسن عراقی را در شهریور ۴۱۵ هجری قمری به عنوان حاکم هرات منصوب می‌کند و این حکومت سرآغاز فعالیت‌های خیرخواهانه عراقی می‌شود.
داستان فعالیت‌های خیرخواهانه ابوالحسن عراقی به ساختن مسجد بالاسردر قرن پنجم و دوره پادشاهی سلسله غزنویان ختم نمی‌شود، بلکه او بانی ساخت محلی برای اقامت زائران هم بود تا وقتی برای زیارت به مشهد می‌آیند مشکلی نداشته باشند، البته این کاتب و دبیر مخصوص پادشاه اقدامات دیگری از جمله احیای قنات سناباد را هم در کارنامه فعالیت خود دارد.
عراقی بعدها بنابر وصیتش در همین مسجد به خاک سپرده می‌شود، مورخان روز درگذشتش را ششم شعبان سال ۴۲۹ هجری قمری، برابر با ۳۱ اردیبهشت سال ۴۱۷ خورشیدی، یعنی حدود یک قرن پیش می‌دانند، براساس این تاریخ، عراقی نخستین شاعر دفن شده در حرم مطهر رضوی نیز به شمار می‌رود.
شکل اولیه این مسجد ترکیبی از چوب و آجر است که در دوره‌های مختلف به فراخور بازسازی‌های صورت گرفته در آن تغییر می‌کند اما مهم‌ترین تعمیرات آن در قرن چهاردهم، مرمت صورت گرفته در سال های‌۱۳۴۲ تا ۱۳۴۵ خورشیدی است که شکل ظاهری مسجد بالاسر حرم امام رضا(ع) را به نحو چشمگیری تغییر می‌دهد.
این مسجد البته قبل از این هم تغییرات مختلفی داشت و یکی از این تغییرات توسط محمد ولی میرزا در دوره فتحعلی شاه قاجار انجام شد، این والی خراسان در مرمت مسجد بالاسر دستور داد دیواری که بین فضای مسجد و فضای مزار امام رضا(ع) وجود داشت، برداشته شود.
در ساخت این مسجد مانند مساجد دیگر از کاشی معرق استفاده شده، ساخت این نوع از کاشی‌ها بسیار سخت بوده، اما چون نقش مهمی در معماری اسلامی داشته و زیبایی منحصر به فردی هم به فضای مساجد می‌دهد از جمله هنرهای اسلامی و تجسمی قابل توجه در معماری مسجد بالاسر دارد.
ماجرای مسجد بالاسر زمانی اهمیت بیشتری پیدا می‌کند که برای مجاورین ارزش معنوی خاصی دارد و آن‌ها سعی می‌کنند موقع زیارت خود را به این مسجد برسانند.
این بخش از حرم مطهر رضوی به خاطر همین جذابیت‌های معنوی همیشه شلوغ‌تر از دیگر بخش‌های این مکان مقدس است، نکته جالب توجه‌اش این است که زائرین و مجاورین وقتی با جمعیت زیاد در این مسجد روبه رو می‌شوند منتظر می‌مانند تا نماز و زیارت دیگر مجاورین و زائرین تمام شود و بعد از رفتن آن‌ها وارد مسجد بالاسر می‌شوند.
شاید باورتان نشود اما مسجد بالاسر فقط ۳۶ متر مساحت دارد و از این حیث یکی از کوچک‌ترین مساجد ایران محسوب می‌شود.

بیشتر بخوانید: بالاسر، جایی که هر دعایی مستجاب می‌شود

تاریخ نگاران قدمت مسجد بالاسر را ۴۲۵ هجری قمری نوشته‌اند و به اعتبار همین قدمت معتقدند این مسجد، قدیمی‌ترین مسجد ارض اقدس و نخستین بنایی است که پس از روضه منوره سقف و ستون گرفته است.
کهن‌ترین مکتوبی که در آن از مسجد بالاسر نام برده شده، کتاب «تاریخ بیهقی» است. بیهقی در جریان فوت ابوالحسن عراقی می‌نویسد: به نوقان رفتم و تربت رضا رضی‌الله را زیارت کردم، قبر عراقی را دیدم، در مسجدِ آنجا که مشهد است در طاقی پنج گز از زمین تا سقف و او را زیارت کردم.
یکی دیگر از منابعی که گزارشی از این بنا در آن دیده می‌شود، سفرنامه ابن بطوطه مغربی است که در نیمه اول سده هشتم نوشته شده است، ابن‌بطوطه می‌نویسد: مشهد امام رضا(ع) بسیار مورد احترام است، قبر امام در داخل زاویه‌ای است که مدرسه و مسجدی درکنار آن وجود دارد.
منابع مختلف دوره قاجار نیز به مسجد بالاسر و کتیبه‌ها و تزیینات آن اشاره کرده‌‍‌اند که مهم‌ترین آن‌ها سفرنامه سدیدالسلطنه و مطلع الشمس از اعتمادالسلطنه است که به تفصیل مسجد بالاسر را توصیف کرده‌اند.
کتیبه سلطان سنجری با خط ثلث آبی روی زمینه سلیمی از کاشی زرین‌فام قرار گرفته و موضوع آن سوره مبارکه فتح است و دنباله آن مسجد بالاسر را دور می‌زند، به داخل حرم می‌رود و در ضلع پیش روی مبارک تمام می‌شود.
زیر این کتیبه به جای این ازاره و کتیبه، کتیبه دیگری قرار دارد که در آن سوره مبارکه واقعه آمده است، در بالای این کتیبه نیز کتیبه دیگری به خط نستعلیق وجود دارد که آن را روی سنگ‌های مرمر حجاری کرده‌اند.