Интересным памятником архитектуры, дошедших до наших дней, является построенная над западными ярмарочными воротами в виде пятиярусной башни Преображенская церковь. Она возведена в 1742 году на средства брянского купечества. Здесь, вероятно, существовала более древняя церковь. На это указывает письмо в Синод одного из наместников монастыря в 1734 году: «…в Свенском монастыре из давних лет по строена каменная Божия — церковь во имя Преображения Господня, которая весьма ветха и мурвалится и священнодействовать отнюдь невозможно и прошу, дабы повелено было вышеозначенную церковь разобрать и вновь на ограде во имя Преображения Господня построить». Какой была первая церковь, неизвестно, хотя вероятно, что она взята за основание постройки.

Первый ярус церкви образован порогами. На второй ярус ведут каменные лестницы. Он выполнен в виде галереи, украшенной полуциркульными арками на низких массивных столбах. Галерея охватывает этаж с трех сторон. На ней вход в основной прямоугольный неф церкви и в алтарную пристройку. В одном из описаний говориться, что здесь был «иконостас гладкий, весь золоченный… и живопись в нем превосходной работы. Иконостас этот строили московские подрядчики: Иван Афанасьев, Никита Иванов и калужанин Михаиле Медведева.» Основной неф церкви увеличен архитекторами подкупольной частью. Над ней возвышается световой барабан, затем небольшой купол, декоративный барабан, увенчанный главой».

Указ на строительство Спасо-Преображенской церкви был выдан в 1734 году. На строительство ушло восемь лет. В 1797 году церковь капитально ремонтировали, при этом был «сломан весь нижний осьмерик», «вновь сделана палуба и по оной покрыто жестью».

В 1842 году от сырости рухнуло гульбище, хотя еще в 1840 году над ним соорудили деревянный навес. В 1864 году Свенская ярмарка была переведена в Брянск. Вероятно, что в это время ворота под церквью ликвидировали. Опись 1897 года сообщает, что на их месте существовало помещение для пожарного обоза.

И. Э. Грабарь считал автором Преображенской церкви, так же как и Успенского собора, И. Мичурина. Этот памятник архитектуры хорошо описан в книге М. Цапенко «По равнинам Десны и Сейма»: «Композиция этой церкви очень оригинальна, ее четырехугольное основание имеет вид гульбища с открытой аркатурой мощных, даже грузных пропорций. Выше основания возведен основной массив, также четырехугольный, в котором помещалась церковь. Еще выше — восьмиугольный барабан, над ним такой же меньших размеров и небольшая завершающая главка. Основной массив наверху завершается фронтонами типично украинской формы и украшен декоративной лепкой точно такой, как это делалось в ту пору во многих строениях самой Киево-Печорской лавры. Но объемно-пространственная композиция памятника своеобразна и, насколько нам известно, аналогии не имеет».

Сейчас Преображенская церковь реставрируется и время от времени в ней ведутся службы.