На юго-восточном углу пр. Кирова и ул. Крайнего, на месте большого кубического здания некогда находилась первая армянская церковь Пятигорска.

Первая армянская церковь в нашем регионе появилась в 1793 г. в Георгиевске. Эта церковь Петра и Павла относилась к Астраханской армяно-григорианской епархиальной консистории. При планировании нового окружного города Пятигорска было предположено и строительство армянской церкви. Летом 1834 г., по просьбе армянской общины Пятигорска, архитектор Первого кавказского военно-рабочего батальона – де Потт – составил проект каменной церкви в классическом стиле, с колонным портиком. Для армянской общины был выделен большой участок под церковь в 16-м квартале Пятигорска. Петербургская Комиссия проектов и смет весной 1835 г. не одобрила представленный проект храма. Позднее новый проект армянской церкви был составлен в Петербурге. К 1842 г. армянская община в Пятигорске собрала 14 тысяч рублей на строительство храма, однако его сооружение задерживалось.

Долгие годы различные обряды (венчание, крещение и пр.) проводились в армянской церкви Георгиевска. В 1860-х годах община снова подняла вопрос о своей церкви в Пятигорске. В 1869 г. было получено разрешение о строительстве храма на отведенном обширном участке, на котором с 1824 г. находился казенный Деловой двор. Участок занимал юго-восточный угол улиц Царской (ныне – пр. Кирова) и Базарной (ныне – Крайнего). Первоначально здесь была сооружена небольшая часовня, а в частном доме на противоположном, северо-западном углу Царской и Базарной улиц, была устроена временная домовая церковь. Сбор пожертвований и сооружение нового храма на месте часовни затянулись на долгие годы. Лишь в 1885 г. новая армяно-григорианская церковь в Пятигорске была освящена во имя Святых переводчиков Саака и Месропа (Сурб Таргманчац). Первым священником храма стал Тер-Авраам Шхиньянц (1860-1917). Церковь была окружена оградой и деревьями. Благодаря стараниям ктитора (старосты) церкви Лазаря Свешникова (1833-1901) к 1901 г. была надстроена колокольня над входом в храм.

Одноглавый храм был сооружен из местного кирпича и машукского камня в византийском стиле. Крестообразное в плане здание имело небольшой шатровый купол на высоком восьмигранном световом барабане с кокошниками. Купол храма был увенчан главкой с крестом. Главный, западный вход в храм находился в просторной нише со стороны ул. Базарной Над входом была сооружена четырехугольная колокольня с низким шатровым куполом.

В 1891 г. молодой зодчий Э. Б. Ходжаев построил южнее храма церковно-приходской двухэтажный дом по собственному проекту. Здесь размещались армянское церковно-приходское училище, типография Садовникова – Нагорова и местное отделение Кавказского Армянского Благотворительного Общества. В 1917 г. приход пятигорской армянской церкви насчитывал более 2 тысяч человек. Священник Шхиньянц, скончавшийся 5 февраля 1917 г., был похоронен у восточной стены своей церкви. Новым священником стал Тер-Чусканянц.

В 1920 г. упраздненная церковь была закрыта, а перестроенное здание передано под музей революции. Позднее здесь открылся спортивный зал. В 1956 г. бывшее церковное здание разрушили и вскоре на его месте построили здание института «Промстройпроект». С 1920-х годов в церковных домах размещалась городская поликлиника имени 1-го Мая.

В 1997 г. на холме в районе «Гора-Пост» началось сооружение новой армянской церкви имени Святого Сергия (Сурб Саргис) в национальном стиле. Она была торжественно освящена 29 ноября 2003 г.