За однією з версій храм був побудований в 1250 або 1270 князем Львом Даниловичем для своєї дружини Констанції, дочки угорського короля Бели IV. За архівними даними костел з'явився не раніше середини XIV століття. Дослідження виявили під нашаруваннями штукатурки готичну, так звану хрестову кладку, характерну для XIV—XV століть. Костел деякий час належав католицькому ордену ченців-домініканців, потім вірменам-уніатам.
Спочатку костел був однонефним, 6 на 8 метрів з гранованою апсидою. Архітектура будівлі змінена багаточисельними перебудовами. У XVII—XVIII столітті до нього прибудували бічні каплиці, які надали плану хрестоподібну форму. У 1800 році сталася пожежа, і до 1836 храм був порожній. У 1887 була проведена нова реставрація, і архітектор Юліан Захаревіч додав храму неороманський стиль. Подвір'я оточене цегельною огорожею з трьохарочною дзвіницею. У костелі Іоана Хрестітеля нині розміщується Музей прадавніх пам'ятників Львова (відділенням Львівської галереї мистецтв).
Рішення про створення прийняті на підставі археологічних досліджень, в результаті яких було виявлено, що на цьому місці існувало слов'янське поселення ще задовго до заснування Львова. У експозиції музею представлені археологічні знахідки, зразки образотворчого мистецтва, церковні реліквії і історичні документи, які дають уявлення про культуру, ремесла і побут населення за часів створення і становлення Львова. Коштовним експонатом музею є ікона середини XIV століття «Львівська Богородиця».
