Історія цієї будівлі по проспекту Лесі Українки, 36 була доволі цікавою і непростою. Зводилась вона для одних потреб, але слугувала потім зовсім для інших. Що цікаво, на відміну від багатьох будівель, в часи Першої світової вона не була передана військовому відомству, а навпаки перейшла до цивільного користування.
Проблеми, пов’язані з розміщенням військ гарнізону, були у Катеринослава завжди. Перше прохання про будівництво у місті казарменного комплексу та позбавлення обивателів від постою зафіксовано ще 1798 році. Проте казарми почали будувати лише ближче до середини ХІХ століття. До початку Кримської війни для нечисленного гарнізону цю проблему було практично вирішено. Та ненадовго.
У 1860-х роках з початком воєнної реформи армія починає стрімко збільшуватися. У 1870-ті роки цей процес досяг і Катеринослава, в якому розмістили штаб та два полки 34-ї піхотної дивізії (133-й Сімферопольський та 134-й Феодосійський), 54-й резервний кадровий батальйон та низку інших підрозділів. Існуючі казарми могли вмістити трохи більше чверті складу нового гарнізону, і військові природно заполонили місто. Ставлення міської влади до цього спочатку було двояким.
Платити за постій мала саме міська скарбниця. Але багато голосних Міської Думи були зраділи появою великої кількості великих орендарів. Вже до кінця 1870-х років радість ця зійшла нанівець. Ні командири, ні солдати не були схильні берегти майно, і в результаті після постою військ будівлі потребували великих ремонтів, вартість яких іноді перевищувала суму оренди.
Саме тому, коли на початку 1880-х років Військове міністерство розпочинає будівництво казарм Сімферопольського полку, місто приймає рішення про будівництво комплексу і для феодосійців. Можливості міста відрізнялися від державних та й знайти територію для такого комплексу виявилося далеко не просто. Тому місто запланувало будівництво не кам’яних, а дерев’яних будівель і змушене було розосередити окремі казарми.
Найбільший комплекс, що складається з батальйонної казарми, казарм нестройової роти та служб був збудований між тодішньою Циганською (пізніше Олександро-Невською) площею та Звивистою вулицею. Перший казармовий комплекс простояв недовго. Вже 1899 року він був повністю реконструйований, і місце дерев’яних зайняли кам’яні одноповерхові корпуси.
Феодосійський полк квартирував тут до 1908 року, коли була введена в дію перша черга нових казарм на Лагерній вулиці. Звільнені корпуси були передані 210-му резервному Перекопському полку, що повернувся з Далекого Сходу. Тут були розміщені солдати та склади полку. Крім того, в одній із будівель відкрилася полкова Георгіївська церква. У 1910 році після розформування полку в казармах розмістився переведений до Катеринослава 7-й мортирний дивізіон.
Із початком Світової війни у долі комплексу відбулися значні зміни. Після виведення військ гарнізону на фронт він виявився незатребуваним військовим відомством. Міська влада, враховуючи ситуацію з розміщенням навчальних закладів, уже восени 1914 року, відремонтувавши та дообладнавши комплекс, перемістила сюди 2-у міську чоловічу гімназію. Один із наймолодших середніх навчальних закладів Катеринослава проіснував менше 10 років, повністю і безвісти зникнувши в роки громадянської війни.
15 травня 1920 року, згідно з постановою Губчека, казарми почали пристосовувати під розміщення концтабору примусових робіт. До складу нової установи увійшли три корпуси — службовий, корпус майстерень та камер. І якщо перші два утримувалися задовільно, то третій… «У коридорах брудно, приміщення не ремонтовано, стіни закопчені, звисає пил і павутина, місцями стіни обвалені, повітря зперте, вентиляції немає, нар для всіх ув’язнених немає». До цього можна додати майже повну відсутність медичної допомоги, води та багато іншого. У тому числі й відверте здирництво хабарів у в’язнів з боку начальників. Вже 1920 року за ці мистецтва було розстріляно товаришів Юрченко та Шапіро. У 1921 році велося слідство щодо товариша Дубинського, припинене за недоведеністю.
Табір було ліквідовано у середині 1920-х років, після завершення в’язниці на вулиці Чичеріна. Його ділянку було практично відразу передано залізниці для будівництва клубу. У 1925 році на проект цієї будівлі було оголошено всесоюзний конкурс, у якому взяли участь відомі архітектори свого часу. За його наслідками премії отримали проекти Д. Буришкіна, Н. Буришкіна та Н. Троцького; Ст. Чистова; І. Лангбард.
Але загалом задум закінчився повним фіаско. Будівництво будівлі було заборонено через надто високу вартість, а під клуб залізничного. виділили будівлю Громадських Зборів на Ленінській вулиці. Вже 1927 року Залізниця починає будувати на своїй ділянці будівлю поліклініки, а пізніше будується ФЗО залізничників. Два вцілілі казармові корпуси були передані Художньому технікуму. Надалі розміщені тут навчальні заклади неодноразово змінювалися, і єдиною установою, що стабільно працює, була тільки поліклініка. Сьогодні в приміщеннях колишніх казарм розташовані різноманітні складські приміщення та приватні підприємства.