לאחר הקמת בית המדרש בקרית ארבע, החליטה העמותה להמשיך ולהנציח את שמו של הצדיק ואת מורשת יהודי אלג'יריה על ידי בניית בית כנסת על שם הצדיק. בית כנסת שיונהג לפי מסורת יהודי צפון אפריקה בכלל ויהודי מחוז קונסטנטין שבאלג'יר בפרט. לשם כך, הוסיפה העמותה למטרותיה את עניין הקמת בית הכנסת והפעלתו.

בשנת 2001, ניגשה העמותה למכרז על בניית בית הכנסת שמעל למקווה הטהרה ברחוב יצחק בן דור בשכונת תלפיות מזרח. לאחר תלאות רבות וקשיים מרובים, זכתה לבסוף העמותה במכרז על בניית והפעלת בית הכנסת ובשנת 2013 החלה העמותה בעבודות על מנת להשמיש את המבנה לטובת קהילת המתפללים.

בשנת 2014, עשרה ימים לפני ראש השנה, נפתחו בשעה טובה ומוצלחת שערי בית הכנסת ו בתפילת הסליחות. מספר חודשים לאחר מכן נחוגה חנוכת הבית של בית הכנסת ברוב עם ובמעמד הרב הראשי של ירושלים הרב עמר וראש עיריית ירושלים מר ניר ברקת.

כיום פועל בית הכנסת בהובלתו של הרב יעקב לוי ושל חברי וועד בית הכנסת. פרטים נוספים על בית הכנסת ופעילותו ניתן למצוא בדף בית הכנסת.