Свое название улица получила по имени деятельницы немецкого, польского и международного движения Розы Люксембург (1871-1919гг.) по решению горисполкома в 1923 году.
Первое же ее название было - 6-я Продольная, а после того, как улицы в Таганроге стали получать именные названия ей присвоили имя «Конторская». Это название возникло от того, что на ней располагался водочный склад и контора откупщика Дашкевича.
Конторская улица замыкала первые шесть улиц города (Мало-Греческую, Греческую, Петровскую, Католическую, Иерусалимскую, Полицейскую), являясь как бы границей между аристократическими кварталами центра с фешенебельными особняками и юго-западной окраиной Таганрога, заселенной в основном рыбаками, ремесленниками и мелким служивым народом.
На этой улице располагались: рисовально-живописная школа художников Блонских-Леонтовских, много лет была образовательная школа народных учителей сестер Тереховых, давшая начальное образование многим поколениям детей мещанского происхождения. На углу Конторской улицы и Соборного переулка размещался частный любительский театр помещика генерала Л.П. Иловайского. При театре существовало общество, которым руководил директор гимназии и устраивали украинские спектакли, литературные чтения и лекции с показом «туманных картин». На этой улице проживала семья Чеховых, державшая рядом со своим домом небольшую лавку. С другой стороны их соседями была семья Агали. А в 1882 году в их доме жила семья Александра Павловича Чехова.
На улице размещались культовые учреждения. Двухэтажная еврейская синагога (старостой был отец Фаины Раневской - богатый купец Гирш Фельдман) и Афонское монашеское подворье с домовой церковью Святого Ильи с красивым Райским садом для набожных горожан. Здесь располагались магазины, пивные, и даже предприятия, как например, широко известное в городе бубличное предприятие Ревенко, механическая мастерская С.С. Упмаля и др.
После Конторской - улица носила названия Елизаветинская, в честь жены императора Александра I, которая, живя в Таганроге, любила ездить по этой улице в «Карантин».