Часовня на бывшей границе города была воздвигнута в 1847 году в связи с учреждёнными Высочайшей резолюции Святейшего Синода по инициативе Харьковского архиепископа Иннокентия (Борисова) 16 октября 1843 г. крестными ходами в Харькове: 30 (13) сентября накануне храмового праздника Покровского монастыря туда на зимнее время переносилась чтимая Озерянская икона Божией Матери (Одигитрии), которая находилась там после закрытия Озерянской пустыни под Мерефой в 1788—1797 гг., а 22(5) апреля, накануне храмового праздника в Куряжском монастыре, где постоянно находилась с 1797 г., возвращалась туда. Место встречи городского духовенства с куряжскими монахами и передачи иконы и было отмечено часовней, где служился молебен.
Храм с каменной оградой и железными решетками строился с 24 июня 1892 года по 23 сентября 1901 года по проекту В. Х. Немкина выполнен из красного неоштукатуренного кирпича в эклектичных формах византийско-русского стиля. Боковые апсиды в виде трёхгранников слегка выступают из плоскостей северной и южной стен, подчёркивая полукруглую апсиду главного алтаря в честь Озерянской иконы Пресвятой Богородицы. Фасады здания насыщены архитектурными деталями, заимствованными из древнерусского культового зодчества. Массивному, квадратному в плане, четырехстолпному объему церкви, увенчанному световым барабаном со сферическим куполом, противопоставлена стройная четырехъярусная колокольня (около 40 метров), соединённая с западным притвором. Расположенная на возвышенном месте, органично завершая силуэт высокого плато Холодной горы, церковь благодаря своему изящному силуэту играла доминирующую роль в застройке западной части города как один из главных элементов панорамы района со стороны исторического центра города. В дальнейшем храм претерпел капитальную перестройку по проекту нового епархиального архитектора В. Н. Покровского.
После революции богослужения в храме прекратились и возобновились с 1942 года во время немецкой оккупации. После освобождения Харькова (август 1943 года) в церкви велась патриотическая работа, собирались денежные средства на оборону и семьям воинов.
С 1943 г. по настоящее время Озерянский храм несколько раз капитально ремонтировался.
