На пересечении Соборной и Красноармейской улиц находится небольшой зеленый сквер с оградой, в середине которого стоит знаменитый памятник М. Ю. Лермонтову. Долгое время здесь соседствовали две главные святыни Пятигорска, к которым не зарастала «народная тропа» – православный Спасский собор и памятник поэту, воспевшему Кавказ.

В 1840-х годах на возвышенности (в районе юго-западного угла сквера) появилось одноэтажное каменное здание Гауптвахты. Южнее его на большом пустыре устраивался местный базар. К 1862 г. рядом вырос огромный собор.

В 1870 г. одним из активнейших инициаторов сооружения в Пятигорске всенародного памятника М. Ю. Лермонтову, первого в России, стал контр агент А. М. Байков, который управлял Водами в 1870-1884 гг. Благодаря содействию Кавказского наместника, Великого князя Михаила Николаевича Романова, император Александр II летом 1871 г. разрешил открыть повсеместную подписку на сооружение памятника «певцу Кавказа». Такие подписки обычно проводились при строительстве крупных соборов России. 30 сентября 1875 г. во Владикавказе, центре Терской области, был создан специальный комитет по сооружению памятника М. Ю. Лермонтова в Пятигорске, в состав которого вошли видные деятели области. Одним из главных членов комитета был А. М. Байков. Со всей России было собрано около 55 тысяч рублей добровольных пожертвований.

Для создания памятника в результате большого конкурса был выбран известный русский скульптор, академик А. М. Опекушин, автор знаменитого памятника А. С. Пушкину, открытого летом 1880 г. на площади Москвы близ Страстного монастыря. Летом 1885 г. уполномоченный комитета А. М. Байков заключил в Петербурге с А. М. Опекушиным договор об изготовлении бронзовой статуи и деталей для гранитного пьедестала. Собранных денег должно было хватить и на сквер вокруг памятника.

Местом выбрали крутой обрыв в центре Пятигорска у здания Гауптвахты, перед главным собором города, и недалеко от домика, в котором прожил поэт свои последние дни. С этого обрыва открывался вид, который некогда описал сам М. Ю. Лермонтов: «...на запад пятиглавый Бешту синеет, на восток поднимается Машук, как мохнатая персидская шапка, внизу пестреет чистенький новенький городок, а на краю тянется серебряная цепь снеговых вершин».

В конце 1885 г. уполномоченный Комитета А. М. Байков, который стал городским головой Ростова-на-Дону, предложил младшему городскому архитектору Ростова, молодому гражданскому инженеру Н. А. Дорошенко разработать проект сквера вокруг памятника М. Ю. Лермонтова в Пятигорске. К 15 февраля 1886 г. эскизный проект сквера был готов. Зодчий предложил устроить перед сквером на южном обрыве с размытыми водою склонами каменную веранду с подпорной стеной, как в знаменитом фонтанном саду Петергофа.

Сооружение сквера велось в 1887-1888 гг. под наблюдением инженера-архитектора КМВ К. Н. Кодрунцева. Снесли здание Гауптвахты. Расчистили, надсыпали и разровняли прямоугольную площадку в полгектара. Укрепили ее южные и западные склоны подпорной стеной, сложенной из скрепленных каменных блоков. Поверх стены устроили обзорную каменную веранду с чугунной балюстрадой. Выступающая центральная часть стены с «бриллиантовой» рустовкой была увенчана парапетом с чугунными вазами. Мощную опорную стену пятигорчане окрестили «бастионом». С трех других сторон сквер был огражден изящной железной решеткой простого рисунка с чугунными колонками. Внутри сквера, близ восточных ворот, построили аккуратную кирпичную сторожку – почти игрушечный домик с резным деревянным крыльцом в «русском стиле». Мемориальная доска на стене сторожки указывает авторов памятника и сквера и время создания.

Летом 1889 г. под руководством инженера-архитектора КМВ А. М. Кочетова в сквере были построены грот и фонтан по рисункам зодчего Н. А. Дорошенко. Непосредственное участие в их сооружении принял студент-практикант Академии художеств Э. Б. Ходжаев. В северо-западном углу сквера, перед костелом, был сложен из «дикого» камня декоративный грот, наподобие Лермонтовского у Академической галереи. На ризалите опорной стены сквера был сооружен тоже из «дикого камня» самый первый городской фонтан с фигурным бассейном и раковиной. Позднее углы балюстрады украсили чугунные канделябры в четыре четырехгранных газовых фонаря. Бронзовая фигура Лермонтова на гранитном пьедестале органично вписалась в окружающий сквер с верандой. Позади памятника были разбиты цветники с дорожками, посажены кустарники и деревья. Площадка перед памятником усыпана мелким песком.

Торжественное открытие памятника и сквера состоялось 16 августа 1889 г. На сооружение сквера со всеми постройками было затрачено 25 324 р., почти половина собранных средств. Сквер с первым в России памятником Лермонтову стал одной из главных достопримечательностей Пятигорска. При памятнике постоянно находился официальный сторож в форме министерства государственных имуществ, который следил за порядком и чистотой в сквере. В начале XX века две бывшие курсистки, окончившие «курсы физического развития и воспитания детей проффессора Лесгафта в Петербурге», несколько раз устраивали здесь в летний сезон платную детскую площадку с подвижными играми и разными развлечениями для малолетних детей посетителей Вод и местных жителей. За минувший век сквер несколько раз обновлял свой зеленый наряд.

7 ноября 1925 г. на горке у юго-западного края сквера был открыт первый в городе памятник Ленину (скульптор В. В. Козлов) на огромном постаменте. Он находился на том направлении, куда был устремлен взгляд бронзового Лермонтова, что должно было указывать на преемственность известных «борцов с царизмом». Осенью 1942 г. фашисты разрушили ленинский памятник. После войны на его месте появилась скульптурная композиция «Ленин и Сталин в Горках». Ныне на этом склоне, ограниченном двумя крутыми узкими лестницами, ежегодно разбивается красивый летний цветник. Весной 1946 г. как продолжение ул. Октябрьской была возведена по проекту архитектора Г. К. Писаренко широкая каменная лестница, ведущая к западным воротам сквера.

Ныне сквер с памятником Лермонтову является главным местом посещения экскурсантов и всех гостей Пятигорска. В бывшей сторожке находится сувенирный магазин. Хорошей традицией стало проведение в дни рождения и памяти Лермонтова поэтических праздников в сквере, на которых собираются учащиеся города, местная общественность и поэты со всей России.