Den orginale moskeen, også kjent som Shaik Abdul Gapore Moskeen, var en struktur i tre, bygd av Shaik Abdul Gafoor Shaik Hyder i 1859 på eiendom som var eid av Parsi Curjetsee Framroj. Abdul Gafoor var i den tiden overhodet for tamilene, som drev firmaet Khory and Bridys.

Innen 1884 hadde allerede den gamle moskeen blitt et landemerke i Singapore.

I 1887 søkte Abdul Gafoor myndighetene om å renovere den gamle moskeen, og han skaffet penger til dette ved å leie ut bygninger rundt selve moskeen. Den nåværende moskeen ble ferdigstilt i 1907, og er et vakkert bygg i murstein, med en vakker glassbelagt kuppel og søyler i Romersk stil. Den særegne ornementale stilen finnes ikke i moderne moskeer i Singapore og noe av Abdul Gafoor’s byggestil har gått tapt gjennom årene.

Abdul Gafoor Moskeen står som en påminnelse til innbyggerne i Singapore om de tidligere Indiske, og særlig tamilske, innbyggerne i Serangoon Road. Både hindu templer og katolske kirker finner man i samme området som moskeen. Euroasiater og Indere lever fremdeles i fred i Serangoon og Jalan Besar i Singapore, slik de gjorde i gamle dager i Singapore.