Vùng đất mà Jerusalem tọa lạc, cũng như chính thành phố, trong lịch sử có ý nghĩa to lớn đối với người Do Thái vì những sự kiện quan trọng đã diễn ra ở đó. Tổ phụ của người Do Thái, Abraham, được Đức Chúa Trời yêu cầu hy sinh đứa con trai duy nhất của mình trên Núi Moriah, thuộc Jerusalem ngày nay.
Sau đó, vào thời Môi-se, Đức Chúa Trời đã giúp Môi-se giải thoát con cái Y-sơ-ra-ên (người Do Thái) khỏi ách nô lệ ở Ai Cập, và Đức Chúa Trời hứa cho người Do Thái một miền đất hứa, chảy đầy sữa và mật. Những người rời Ai Cập đã gặp phải một số khủng hoảng về đức tin dẫn đến một cuộc hành trình dài qua vùng hoang dã, nhưng cuối cùng họ được lệnh phải đi vào vùng đất sẽ trở thành Israel (và Jerusalem sẽ trở thành thủ đô). Một thời gian sau khi dân Y-sơ-ra-ên chiếm đất, Đức Chúa Trời ban cho họ Vua Đa-vít, người yêu mến Đức Chúa Trời và muốn Đức Chúa Trời xây dựng một đền thờ ở Giê-ru-sa-lem để dân chúng có thể thờ phượng Ngài. Tuy nhiên, con trai của David, Solomon, người sẽ xây dựng đền thờ. Đức Chúa Trời đã đến ngự trong một phần của ngôi đền được gọi là "Holy of Holies." Cũng như thời gian ở Ai Cập, con cái Y-sơ-ra-ên càng gặp nhiều khủng hoảng trong đức tin, thường bỏ rơi Đức Chúa Trời vì các vị thần địa phương và không tuân theo các điều răn Đức Chúa Trời ban cho họ. Kết quả là Đức Chúa Trời đã gửi họ đi giam cầm ở Ba-by-lôn trong 70 năm. Cuối cùng, họ trở lại Giê-ru-sa-lem và xây dựng lại ngôi đền đã bị phá hủy. Việc xây dựng lại gần như không đẹp đẽ như ngôi đền ban đầu, nhưng nó vẫn tồn tại cho đến khoảng 70 năm sau khi Chúa Giê-su giáng sinh, khi người La Mã phá hủy nó. Kinh thánh Cựu ước mô tả tất cả những sự kiện này và những sự kiện khác, chứng tỏ lý do tại sao Giê-ru-sa-lem lại quan trọng đối với người Do Thái.
