שנות ה-20 של המאה הקודמת הביאו לירושלים תנופת בנייה גדולה שעיקרה יהודית. השכונות היהודיות פרצו לראשונה למרחקים ושכונת בית הכרם היא השכונה השלישית בין שש “שכונות הגנים” שהוקמו בירושלים לפי תכניתו של האדריכל ריכארד קאופמן. זוהי השכונה הראשונה שהוקמה במערב ירושלים. מדובר היה בפריצה נועזת של מתיישבים לא רק לאזור מרוחק ממרכז העיר אלא אל מקום שהיה מבודד, שומם וסמוך לכפרים ערביים.
במרס 1921 רכשו מייסדיי האגודה, בסיוע חברת הכשרת הישוב, שטח של 282 דונם מידי הכנסייה היוונית האורתודוכסית תמורת סכום של 24 לירות לדונם. כנסייה זו נמצאה במצוקה כלכלית קשה לאחר מלחמת העולם הראשונה. קשייה נבעו מסכסוכים כספיים עם האוכלוסייה הנוצרית המקומית ומהפסקת התרומות שהגיעו מעולי הרגל לירושלים.
שמה של שכונת בית הכרם ניתן לה בהתאם להצעתו של ק’ י’ סילמן ובהסתמך על נחמיה ג’, ד’: “ואת שער האשפות החזיק מלכיה בן רכב שר הפלך בית הכרם, הוא יבננו ויעמיד דלתותיו ומנעוליו ובריחיו”. קדמה להקמת השכונה התארגנות של 148 חבריה באגודת בוני בית, שנוסדה ב-1920 (תר”פ) על ידי מורים ופקידים במטרה לרכוש שטח אדמה בקרבת ירושלים לשם בניין שכונה מיוחדת, בתנאים נוחים ומתאימים למצב חבריה. בין המורים היו כמה סופרים ומשוררים (קבק, רבי בנימין, בורוכוב, סלושץ, כרמון, סילמן, טמקין) ולכן נתנו לשכונה את הכינוי שכונת המופ”סים – ראשי תיבות של מורים, פקידים, סופרים.
לפי תכניתו של האדריכל ריכארד קאופמן, חולק השטח ל-148 מגרשים בשטח של שני דונמים ו-29 מגרשים בשטח של דונם וחצי. קאופמן הסביר: “שטח הקרקע של בית הכרם מקיף לערך 280 דונמים, משתרע מדרום מערב לירושלים, בדרך לכפר עין כרם… הצורה המאפיינת את המקום היא כיפה מתרוממת, התואמת את מבנה השכונה. הרחובות ובתי המגורים הבנויים במעלה המדרון, חוגרים את הגבעה שבפסגה… המבנים המונומנטאליים ישרתו את הצרכים הרוחניים של התושבים. … משני צדי הגבעה – עמקי נחלים… הירידה המדורגת אליהם מאפשרת פיתוח פארק… בו יינטעו עצי חרוב, פלפלון, ומעליהם עצי ארזים”.
תכנית השכונה כללה שדרה ראשית, שהיוותה ציר הליכה ירוק החוצה את השכונה מצפון ועד מכללת דוד ילין בדרום. מציר זה מסתעפים רחובות בית הכרם, החלוץ, השחר ואחרים, שלאורכם בנויים בתים בתוך גינות רחבות. כל אלה יוצרים אווירה כפרית.
א) קניית הקרקע נעשתה על חשבון החברים ולא על חשבון מוסד ציבורי כלשהו, בהדגשה מפורשת שהקרקע לא תירכש על חשבון הקרן הקיימת (שכספיה הם קודש לרכישת קרקע להתיישבות כפרית ולא עירונית).
ב) גודלם של המגרשים: 1.5 עד 2 דונם. המגרשים הגדולים גם נועדו ליצירת מרחקים גדולים בין הבתים, וזוהי עובדה המייחדת את בית הכרם מכל שכונות הגנים בירושלים (כבר מראשית הבנייה, הקימו כמה תושבים לולים בחצרותיהם לשם אספקת ביצים ובשר עוף למשפחתם).
ג) עקרון העבודה העברית שהיווה משום חידוש מופלא בירושלים של הימים ההם. הבנייה באבן הייתה בלתי מקצועית עד כדי כך, שהיה צורך לטייח את קירות האבן של כמה בתים על מנת לכסות את פגמיהם.
ד) עקרון העבודה העצמית.
ה) קניית תוצרת עברית בלבד.
בשכונה נבנו מוסדות חינוך שכללו גן ילדים ובית ספר העממי. באסיפה הכללית הוחלט להקצות 14 דונם מהקרקע הציבורית לבניית “בית המדרש למורים העברי”, שנקרא בפי כל “הסמינר”. מייסדו של הסמינר, דוד ילין, הצליח לאסוף תרומות מארה”ב לבנייתו, וזו נסתיימה ב-1929 (תרפ”ט). ב-1930 הפך בית הספר העממי ל”בית הספר לדוגמא שעל יד בית המדרש למורים”. בשנת 1936 הוקם בית ספר תיכון שש-שנתי, שביצע את ה”רפורמה” בחינוך כ-30 שנה לפני שהוחלט עליה במדינת ישראל.
בחלקה הדרומי של שכונת בית הכרם לפני הקמת המדינה הייתה שכונה נפרדת בשם שכונת הפועלים. היא השתרעה בין רחוב החלוץ לבין רחוב הבנאי, (שנסלל רק לאחר מלחמת העצמאות). בשנת 1925 רכש איש “השומר” מרדכי יגאל את השטח, שחולק ל-30 מגרשים בני 1-1.5 דונם, ונמכר לקבוצת פועלים יוצאי פלוגת ירושלים של “גדוד העבודה” שמצאו פרנסתם בעבודות בניין בירושלים.
בית הכרם הייתה שכונה עברית ראשונה בדרום מערב ירושלים, ועד לבנייתן של שכונות נוספות גם נותרה מרוחקת ומבודדת במשך מספר שנים. ריחוקה ובידודה גרמו קשיים תחבורתיים וביטחוניים. למעשה, התחבורה לבית הכרם מציינת את ראשית התארגנותה של התחבורה הציבורית באזור ירושלים ואת ראשיתו של קואופרטיב “המקשר” (לימים אג”ד).
בעיות ביטחוניות החלו כבר עם רכישת האדמות מהכנסייה היוונית האורתודוכסית ודחיית תביעותיו של הוואקף המוסלמי לבעלות על הקרקע, שהיו מלוות בהפגנות של ערבים. סלילת רחוב החלוץ הופרעה מצד המוני ערבים מכפרי הסביבה, שפוזרו בידי המשטרה. גם היו מספר גניבות והתנפלויות על אנשים בודדים. בשנות המאורעות התנכלו לבית הכרם תושבי הכפרים הערביים שהקיפו את השכונה: מלחה, דיר יאסין, ועין כרם. בגג הסמינר הוקמה עמדת תצפית ושמירה, שממנה הבריחו ביריות ערבים שבאו מכוון דיר יאסין. במאורעות תרצ”ו- תרצ”ט (1939-1936) התגוננו תושבי השכונה בעמדות הגנה, שהוצבו בכמה מהבתים הקיצוניים.
היום הפכה השכונה משכונת ספר לשכונה בעיבורה של ירושלים, בין קריית משה בצפון לבית וגן בדרום. השכונה ממוקמת בקרבת האוניברסיטה העברית בגבעת רם, משרדי הממשלה ובית המשפט העליון. אוכלוסיית השכונה מונה כ-15 אלף תושבים. בתיה הראשונים הולכים ונעלמים ובמקומם צומחים בתי מידות. אולם, תכניתה של השכונה נשארה בעיקרה כפי שהייתה בראשיתה.