Формирование казачества в городах Путивле, Рыльске, Новгород-Северске и Курске произошло к концу XV века или, согласно исследованию Е.П.Савельева, к 1491 году. В этих городах появились казаки, которые назывались украинскими, северскими или севрюками. Они составляли группы из 50-100 человек, которые участвовали в походах, охраняли границу Русского государства и выполняли разведывательные задачи в Донских степях и на Крымской линии.
В это время в северском крае также стали называть удалых воинов казаками. Название "казак" происходит от татаро-монгольского слова, которое монголы заимствовали у казахского (кипчанского) племени казах, известного своими подвигами в Азии. Еще в конце X века в персидской хронике "Гудуд аль Алэм" упоминается "земля касак" в Приазовье. Татары создали отборное войско из неукротимых воинов, которых называли кай-саками, еще в XIII веке.
Русичи начали называть своих отважных воинов-землепашцев казаками и их предводителей атаманами. Эти слова также происходят от тюркского и монгольского происхождения. Древнее название предводителя войска "ватаман" упоминается еще в III-IV веках у готов. Возможно, в русском Тьмутораканском княжестве в X-XI веках казаками и атаманами называли воинов. В конце XV - начале XVI веков в укрепленных поселениях северян-казаков формировались свои правила и порядок.
Василий Иванович Шемяка сыграл важную роль в укреплении и защите Рыльска, а также на южных рубежах России. Город Рыльск был не только пограничным, но и центром сторожевой и станичной службы.
В 1533 году Иван IV (Грозный) продолжил дело по укреплению границ Русского государства. Была создана "засечная черта" - укрепленная полоса с завалами деревьев, рвами и оврагами, водными преградами и сторожами, чтобы защититься от татарской конницы. Первые укрепления на подступах к Рыльску располагались на расстоянии 15-20 километров от города, главным образом с юго-востока и запада.
Южная засечная линия проходила через Путивль, Рыльск, Кром, Новосиль, Данков и далее до Ряжска. Казаки станиц играли важную роль в патрулировании границы, часто самостоятельно атакуя небольшие отряды противника и захватывая у них добычу и пленных. Население рыльского края постоянно охраняло русские рубежи, особенно города Новгород-Северский, Путивль, Рыльск и Курск. Рыльск был крупным пунктом сторожевой и станичной службы, и в 1533 году государевы полки находились именно там. Рыльские казаки важно участвовали во всех военных действиях, а первые документальные упоминания о них появились в 1533 году. Были заключены перемирия между Польшей-Литвой и Россией, но татарские набеги на границу продолжались. Рыльские казаки выполняли разведывательные функции и возвещали о движении врага великому государю. В 1556 году атаман Михаил Грошев с разрядом казаков разгромил крымского татар и вернулся в Рыльск с пленниками и победой.
В 1556 году Матвей Ржевский, дьяк из Рыльска, вместе с казаками из Рыльска, Путивля и Черкасс вторгся в Крым, захватив несколько небольших городов и взяв крупную турецкую крепость Очаков. При возвращении казаков преследовало войско крымцев, но Ржевский смог одержать победу, устроив засаду в камышах и напав на врага внезапно. В 1558 году русские войска также успешно осуществили поход под Перекопом, в котором участвовали отряды из северских городов. С этого времени Россия перешла от обороны к наступлению, отвечая на татарские набеги собственными походами и побеждая противника. В 1555 году царь Иван Грозный послал воеводу Шереметева на крымских татар, а в 1560 году рыльский князь Василий Елецкой передал информацию о переходе одного татарина на русскую сторону. В борьбе с крымскими татарами и польскими панами казачество стало играть всё большую роль, так как их смелость, умение ориентироваться в степных дорогах и переходить через реки были высоко ценены воеводами. Казаки жили по Осколу и Семи, бывая вольными и не несши городовой службы. Иногда городовые казаки, не согласившись с князьями или по другим причинам, уходили в степь и вели вольную жизнь. Царь Иоанн Васильевич уделял большое внимание укреплению границ и приказывал воеводам подбирать казаков на службу, платя им жалованье и предоставляя земельные наделы.
В Рыльске находились две казачьи слободы, расположенные на окраинах города, которые защищали его от врагов с севера и юга. В северной слободе жили освобожденные от налогов и пошлин привилегированные казаки, у них было свое пространство на улицах Островской и Первомайской. На реке Рыло, на пути к Крупцу, атаман Родионов владел мельницей. Казаки имели пастбище для скота, пойменный луг, речные угодья с богатыми запасами рыбы и бобров. У каждого казака было от двух до десяти лошадей, но только две из них использовались для походов и службы. В слободе находилась Николаевская церковь, где хранилась старинная икона Николы Чудотворца, разрубленная пополам и подаренная казаками церкви. Еще одна казачья слобода находилась в южной части города, на улицах Красноармейской и 40 лет Октября. В этой слободе было всего несколько домов, расположенных у реки Дублянки. На горе, за домами, стояла церковь Николая Чудотворца Можайского. К западу от церкви находилась казачья горка, где собирались казаки и находилась застава. Каждый казак имел небольшой земельной участок. Чтобы поддерживать готовность к бою, казакам было запрещено покидать город без разрешения атамана. Казаки Рыльска появились в исторических документах в 1533 году. Они также укрепляли свое население при помощи перебежчиков с литовской стороны, которые не хотели жить под польско-литовским владычеством. Рыльские казаки совершали разведывательные походы к Дону и поддерживали дружеские отношения с донскими казаками. В 1570 году царь Иван IV разрешил донским казакам использовать землю, предоставил жалование и установил деловые отношения. Так началась официальная история Донского казачьего войска. С этого времени северские, запорожские и донские казаки стали братьями и боролись за Веру Православную, Царя и Отечество.
1 января 1571 года государь Иоанн IV (Грозный) назначил князя Михаила Ивановича Воротынского «ведати станицы сторожи, и всякие свои Государствы польские службы».
Князь Михаил Иванович Воротынский был назначен главой сторожевой службы 1 января 1571 года по указу государя Иоанна IV (Грозного). Его задачей было восстановить порядок в сторожевой службе. В результате был разработан устав о станичной и сторожевой службе, который был утвержден 16 февраля того же года государем. В этом документе были внесены изменения в старые распорядки. Было запрещено принимать на службу путивльских севрюков, которые не показали себя ответственными и несерьезно относились к службе. Вместо них на сторожу были посланы дети боярских из Путивля и Рыльска.
Несмотря на это, севрюков все еще нанимали на охрану границ, но они были под началом боярских сыновей. В документе из 1571 года говорится о том, что на сторожу посланы 21 севрюк на одну статью на два месяца.
В уставах были также указаны места, где сторожам нужно было стоять, а также места, где должны были быть разъезды. Также были написаны инструкции о том, как нести караульную службу. Сторожам было приказано иметь двух хороших лошадей для дальних разъездов, чтобы сообщить о приближении врага. Также было указано, что для сообщения о приближении врага к воеводу направлялся только один, реже два посыльных, а остальные следили за движением врага.
Караульные сторожи, устраиваемые рылянами и путивльцами, находились в донецких степях и обслуживались казаками и детьми боярскими. Они отправляли сторожей из Путивля и Рыльска на Донецкие сторожи.
В документах также описывалось, каким образом распределялись люди по сторожам. Люди из различных городов направлялись на охрану границы. В примере из 1577 года указано, что сторожи стояли на поле на Донце на Северском усть-Уд. Один из участников, Игнатий Андреевич Тютчев, отправился из Брянска, в Рыльск он прибыл 15 апреля вместе с людьми из других городов. Через 10 дней, 24 апреля, они прибыли на место назначения на Донце.
Таким образом, Рыльск был важным пограничным городом, где проходила сторожевая и станичная служба, а также пунктом сбора и распределения войск.
Для организации разъездов был разработан график и регламент станичной службы. Установлены даты выезда из Путивля и Рыльска: первая станица - 1 апреля, вторая - 15 апреля, третья - 1 мая, четвёртая - 15 мая, и так далее, восьмая станица - 15 ноября. Это был последний срок выезда в году, но он мог быть продлен до появления снега. Видимо, из-за отсутствия фуража для конницы неприятель не совершал набегов в зимнее время. Для обеспечения безопасности и уничтожения источников пищи для вражеской конницы применялась тактика выжигания степей. Необходимо было учитывать направление и силу ветра. В 1571 году был выдан указ о выезде станичных козаков из разных городов для осуществления этой тактики.
В 1574 году усилились требования к сторожевой службе. Была произведена перепись служивших казаков, а также выдан указ о том, что только здоровые и хорошо оснащенные казаки могут быть включены в сторожевую службу. Сторожевым казакам было увеличено жалованье. Рыльск служил сборным пунктом для московских воинов, отправляющихся на Крымскую линию. В связи с недостаточным контролем над южной границей, приезжих людей также приглашали на службу. В 1589 году рыльскому воеводе было приказано, вместе с другими казаками, укрепиться на Донце и Осколе для наблюдения за крымскими кочевниками.
В Рыльске появились донские и запорожские казаки. Они были направлены на службу в Путивль. В это время путивльский рубеж находился недалеко от Рыльска. Таким образом, во время правления Федора Ивановича Рыльск продолжал оставаться форпостом Русского государства, высылая разъездные станицы и сторожевых казаков для наблюдения за движением врага и своевременного предупреждения об опасности.