Masjid ini diberi nama Masjid Kampung Gong Bayor kerana ia terletak di Kampung Gong Bayor, Mukim Tembila, Besut.

Asal Masjid ini adalah sebuah surau yang dibina pada tahun 1810 secara bergotong-royong oleh penduduk kampung. Surau ini dibina hasil derma orang ramai di kampung tersebut. Pada ketika itu, penduduk Kampung Gong Bayor menunaikan Solat Jumaat di Masjid Kampung Batu Tumbuh kerana surau tersebut sempit dan tidak boleh menampung jemaah yang ramai.

Penduduk kampung telah bersepakat untuk memohon pembinaan masjid baru dengan kerajaan kerana jemaah surau semakin bertambah. Kemudian, pada tahun 1960, permohonan telah diluluskan dan masjid baru tersebut telah dibina di atas tapak wakaf yang sama seluas 1/2 ekar dengan pembiayaan kerajaan.

Info dari: emasjid.terengganu.gov.my