בית הכנסת הראשון בטירת כרמל, הוקם עם קום המדינה על ידי העולים החדשים שהגיעו ארצה ונקרא על שם מוסדות החינוך של הקהילה היהודית במרוקו.
ממצאי חפירות ארכיאולוגיות שנערכו בטירת כרמל מעידים על התיישבות רציפה במקום, החל מתקופת הברונזה ועד לתקופה הביזנטית ועדויות היסטוריות נוספות מצביעות על קיומו של הכפר הנוצרי הגדול “סנט ג’ון דה טירה” ששכן במקום בתקופה הצלבנית.
בתקופה העות’מאנית התפתח במקום הכפר המוסלמי “אל טירה” שבמרכזו “המסגד הגדול”.
מעל פתח הכניסה למבנה, אותרה כתובת בערבית בה מצוינת השנה 1579 לסה”נ כשנת בנייתו או הקדשתו כמסגד ועדויות היסטוריות נוספות מעידות כי עוד קודם לכן, שימש המבנה ככנסיה צלבנית או כמבנה ציבורי אחר.
עם סיום מלחמת העצמאות התרוקן הכפר מרוב יושביו הערבים ולאחר הקמת המדינה אכלסו העולים החדשים את המבנה הנטוש והפכו אותו לבית הכנסת המרכזי בישוב.
כיום בית הכנסת “אם הבנים” מהווה אבן שואבת לקהלים רבים ומגוונים בטירת כרמל.