Bedirinya Masjid Layur tak lepas dari Kota Semarang sebagai bagian komoditas jalur perdagangan internasional melalui Pantai Utara Jawa.
Hal ini menjadikan para saudagar serta pedagang dari Timur Tengah bersandar, dan tak lupa menyebarkan agama Islam di kota yang terkenal dengan sebutan Kota Atlas. Menurut cerita yang berkembang di masyarakat sekitar, Masjid Layur berdiri sekira tahun 1800-an.
Di sekitar Masjid Layur dihuni oleh orang-orang Timur Tengah dan Melayu. Mereka menetap dan tinggal di sekitar masjid, membentuk sebuah desa yang disebut Kampung Melayu.
Masjid Menara dan Kampung Melayu dulunya terletak di dekat pantai utara Jawa. Banjir yang setiap tahun melanda Kampung Melayu juga telah mengubah lingkungannya, termasuk Masjid Layur.
Akibatnya Masjid Layur yang sejak awal berdiri memiliki dua lantai, kini tinggal menyisakan satu lantai atas dan sebuah menara besarnya.
Baca Juga: Mangkrak Setahun, Gibran Ungkap Alasan Pembangunan Masjid Sriwedari Belum Dilanjutkan