İlk yıllarda Burgazada’da yaşayan Yahudiler zaman zaman Cumartesi sabahları bir evde toplanıp dualarını okur, bayramlarda ise izin alarak Burgaz Tatil Evi salonunda ibadet ederlerdi. 1960 - 1970!li yıllarda, Yahudi yazlıkçıların artan sayısı karşısında Aya Yani Kilisesi yakınındaki bir evde toplanılmaya başlandı. Burgazada’sına rağbet arttıkça muntazam bir ibadethane gereksinmesi kaçınılmaz oldu. Burgaz Tatil Evi’nin bir kısmı bu işleve göre düzenlendi. İbadethanenin açılışına izin verilmesi için Hahambaşı David Asseo’nun Vilayet makamına hitaben 2 Nisan 1968 tarihli dilekçesi, 15 Nisan 1968 tarihinde "Musevi Vatandaşlarımızın Burgazada’sındaki nüfus kesafeti ve mevcut sinagogların kifayetsizliği nazarı dikkate alınarak, yalnız yaz mevsimine münhasır olmak üzere... Cumartesi günleri ve Bayram günlerinde ibadetlerini yapmalarında kanuni bir mahzur görülmediği ..." şeklinde cevaplandırıldı.

Neve Şalom Sinagogu Vakfı'na bağlı olarak yönetilen Burgazada ibadethanesi, kurulmasına ve gelişmesine ön ayak olan ve bu uğurda her türlü girişimde bulunan ve sinagoga büyük hizmetler veren Yaakov Mazon'un adını onurlandırmak amacıyla, Yaakov'un Çadırı anlamına gelen Ohel Yaakov olarak anılmaktadır.

1994 yılında iç mimarisi tamamen yenilenen Ohel Yaakov Sinagogunda her yaz bir Bat-Mitzva (Musevilikte kız çocukların ergenliğe geçiş) töreni düzenlenme geleneği, 1999 yılı Ağustos ayında programlanan törenin, 17 Ağustos Körfez Depremi acısı dolayısıyla iptalinden sonra sona erdi.