До завоевания древними евреями Иерусалим принадлежал хананейскому племени иевусеев, от названия которого город и получил свое название. В Библии Иерусалим времен иевусеев упоминается как Иевус или Салим (Шалим). Постройки иевусейского периода составили ядро так называемого Города Давида, который в ту эпоху представлял собой мощную крепость с крепкими каменными стенами, стоящую на холме между двух глубоких долин - Кедрон и Тиропион.
Когда царь Давид (к. 11 - н.10 вв. до н.э.) взошел на трон, Иерусалим все еще находился под властью иевусеев, а столицей Израильско-Иудейского царства в те времена был Хеврон. Давид завоевал Иерусалим и сделал его новой столицей государства.
На самом высоком месте царь построил свой дворец. Для этого он нанял финикийских рабочих из Тира. Также ими были укреплены стены древнего города. В Иерусалим была перенесена Скиния и Ковчег Завета,
в связи с чем новая столица стала не только политическим,
но и религиозным центром. В дальнейшем к северу от Града Давида, на горе Мория, сын Давида, Соломон, построил знаменитый Иерусалимский храм.