Собор был построен в 324—337 годах при византийском императоре Константине I, но сгорел во время народного восстания. Император Феодосий II повелел выстроить на этом же месте базилику, что и было выполнено в 415 году, однако и её постигла та же печальная участь — в 532 году при восстании «Ника» базилика сгорела (развалины её были обнаружены лишь в 1936 году во время раскопок на территории собора).
Император Юстиниан (483—565) решил отстроить собор заново, пригласив лучших архитекторов того времени: Исидора Милетского и Анфимия Тралльского, которые ранее зарекомендовали себя возведением церкви свв. Сергия и Вакха. Строительство собора поглотило три годовых дохода Византийской империи. «Соломон, я превзошёл тебя!» — такие слова произнес, по преданию, Юстиниан, войдя в построенный собор и имея в виду легендарный иерусалимский храм.
Обвалившийся во время землетрясения 989 купол собора перестроил армянский архитектор Трдат, автор Анийского собора.
16 июля 1054 г. в Софийском соборе на святом алтаре во время богослужения легатом папы римского кардиналом Гумбертом константинопольскому патриарху Михаилу Керулларию была вручена отлучительная грамота. (Именно эту дату принято считать датой разделения церквей на католическую и православную.)
До разграбления крестоносцами Константинополя в 1204 году в соборе хранилась Туринская плащаница.
В 1453 году завоевавший Константинополь султан Мехмед II повелел превратить собор в мечеть, сотворив при этом самолично первую молитву во славу Аллаха. К собору пристроили четыре минарета, и собор превратился в мечеть Айя-София. Поскольку собор был ориентирован по христианской традиции — алтарь на восток, мусульманам пришлось переиначить его «по-правильному», поместив михраб в юго-восточный угол собора (направление на Мекку). Из-за этой переделки в Айя-Софие, как и в других бывших византийских храмах, молящиеся мусульмане вынуждены располагаться под углом относительно основного объёма здания. Большинство фресок и мозаик остались невредимыми, как полагают некоторые исследователи, именно благодаря тому, что в течение нескольких веков были замазаны штукатуркой.