ירושלים שוכנת על רצועת ההר המרכזית של ארץ ישראל המערבית, ועל קו פרשת המים שלה, בין הים התיכון וים המלח, בגובה של 570–857 מטרים מעל פני הים. הנקודה הגבוהה ביותר בעיר היא פסגת שכונת גילה, המתנשאת לגובה של 859 מטרים מעל פני הים. העיר שוכנת בהרי ירושלים, חבל הרים השייך להרי יהודה.

מרכז העיר, הממוקם בחלקהּ הצפוני של העיר, בנוי על אזור מישורי יחסית. מרבית שכונות העיר בנויות על הגבעות, כאשר ביניהן נפרשים עמקים וואדיות, דוגמת עמק יהושפט, גיא בן הינום, עמק רפאים, נחל קדרון, נחל שורק ועמק הצבאים.