В 1798 году в Рыльске фон-Фолимонов приобрел земельный участок для строительства каменных торговых рядов и большого трехэтажного Общественного дома. После постройки Общественного дома Фолимоновы передали его городу.
Храм Покрова Пресвятой Богородицы возведен в 1822 году на средства купцов Севастиана и Федора Андрониковых. Храм относится к стилю позднего классицизма. Это один из немногих рыльских храмов, избежавших погромов после Октябрьской революции.
В Рыльске была и старообрядческая церковь, построенная в 1737 году, называлась она Покровской, затем Благословенной. В 1910 году рядом с ней была возведена колокольня - всё, что осталось от Покровской церкви до наших дней.
Археологические раскопки на горе Иоанна Рыльского свидетельствуют, что поселение на месте города Рыльск существовало задолго до XII века. Именно на этой горе был зарождён современный Рыльск.