Родился 23 февраля 1906 года в деревне Измайлово Переславского района Ярославской области (Россия) в семье крестьянина. Русский. Детство и юность провёл в городе Загорске (ныне Сергиев Посад). Окончил единую трудовую школу 2-й ступени в 1923 году.
В РККА с 15 сентября 1923 года.
Окончил Московскую военно-инженерную школу имени Коминтерна (учился с 1923 года по 1927 год).
Служил командиром взвода 10-го железнодорожного полка Отдельной Кавказской Краснознамённой армии.
С декабря 1930 года - курсовой командир Московской военно-инженерной школы.
Окончил Военно-техническую академию РККА имени Ф.Э.Дзержинского (в 1935 году была реорганизована в Военно-инженерную академию РККА имени В.В.Куйбышева) (учился с сентября 1931 года по 1936 год).
В 1936 году присвоено звание старшего лейтенанта.
С мая 1936 года служил начальником штаба отдельного сапёрного батальона Московской Пролетарской стрелковой дивизии в Московском военном округе.
В 1937 году присвоено звание капитана.
Участвовал в национально-революционной войне в Испании с 1937 года по 1938 год в качестве военного специалиста и советника по инженерному обеспечению.
С мая 1938 года был начальником 3-го отделения 2-го отдела Инженерного управления РККА, с июля 1938 года - начальником 9-го отдела штаба Дальневосточного фронта.
Участвовал в боях у озера Хасан в 1938 году в должности начальника 9-го отдела штаба КДВФ и начальника инженерной службы Ударной группы войск (стрелкового корпуса).
В 1938 году присвоено звание полковника.
С сентября 1938 года служил в должности начальника 9-го (инженерного) отдела штаба 1-й Отдельной Краснознамённой Дальневосточной армии, с ноября 1940 года - начальник отдела укреплённых районов штаба Дальневосточного фронта, с декабря 1941 года (января 1942 года) - заместитель командира 12-й стрелковой дивизии Дальневосточного фронта. С 4 марта 1942 года был командиром 96-й стрелковой дивизии Дальневосточного фронта.
Участвовал в Великой Отечественной войне с июня 1942 года. Командуя 96-й стрелковой дивизией, воевал на Сталинградском фронте с августа 1942 года и на Донском фронте с сентября 1942 года.
21 сентября 1942 года был отстранен от должности из-за больших потерь в дивизии, но проведённое расследование отмело все обвинения, выдвинутые против него «компетентными» органами.
С 10 января 1943 командовал 58-й гвардейской стрелковой дивизией в 1-й гвардейской армии Юго-Западного фронта, с 16 апреля 1943 был заместителем начальника штаба Юго-Западного фронта.
29 января 1943 года присвоено звание генерал-майора.
С 5 мая 1943 года был командиром 32-го Берлинского Ордена Суворова стрелкового корпуса.
Воевал на 1-м Белорусском фронте, принимал участие в освобождении Донбасса, Одессы, форсировании Днестра, в Уманско-Ботошанской и Ясско-Кишинёвской операциях, в освобождении Кишинева, в Варшавско-Познанской, Восточно-Померанской и Берлинской наступательных операциях.
20 апреля 1945 года присвоено звание генерал-лейтенанта.
Командовал 32-м корпусом до самого конца войны.
За годы Великой Отечественной войны 24 раза персонально упоминался в приказах Верховного Главнокомандующего СССР И. В. Сталина и по этому показателю является вторым, после Дрёмова Ивана Фёдоровича, выдающимся командиром оперативно-тактического звена в вооруженных силах СССР за всю Великую отечественную войну.
После окончания войны продолжал командовать корпусом в Группе советских оккупационных войск в Германии до 1946 года.
Окончил с золотой медалью Высшую военную академию имени К.Е. Ворошилова в 1948 году.
С февраля 1949 года - начальник Оперативного управления штаба Московского военного округа.
С сентября 1950 года - старший военный советник при начальнике Генерального штаба Чехословацкой Народной армии.
С марта 1955 года - начальник направления в 10-м управлении Генерального штаба.
С мая 1956 года - помощник начальника Объединённых Вооружённых Сил государств - участников Варшавского Договора по боевой подготовке, одновременно - помощник начальника 10-го управления Генерального штаба.
С февраля 1957 года - начальник кафедры оперативного искусства и тактики в Военной командной академии ПВО, с сентября 1958 года - первый помощник начальника этой академии по учебной работе и начальник учебного отдела.
С апреля 1959 года - командующий Особой Ленинградской армией Войск ПВО страны - заместитель командующего войсками Ленинградского военного округа по войскам ПВО.
С февраля 1961 года - командующий 6-й отдельной армией Войск ПВО страны - заместитель командующего войсками Ленинградского военного округа по войскам ПВО.
9 мая 1961 года присвоено звание генерал-полковника.
С января 1962 года - представитель Главнокомандующего Объединённых Вооружённых Сил государств - участников Варшавского Договора в Войске Польском.
31 декабря 1968 года в звании генерал-полковника уволился в запас.
Проживал в городе Москва (Россия).
Умер 27 июня 1982 года. Похоронен на Кунцевском кладбище в Москве.
Указом Президиума Верховного Совета СССР от 29 мая 1945 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистскими захватчиками и проявленные при этом отвагу и геройство генерал-лейтенанту Жеребину Дмитрию Сергеевичу было присвоено звание Героя Советского Союза (медаль «Золотая Звезда» № 5833).
Награждён тремя орденами Ленина (06.04.1945, 29.05.1945, 20.06.1949), пятью Красного Знамени (22.10.1937, 25.10.1938, 03.11.1944, 03.11.1953, 30.10.1967), орденом Суворова 2-й степени* (17.09.1943), орденом Кутузова 2-й степени** (13.09.1944), орденом Богдана Хмельницкого 2-й степени*** (19.03.1944), медалями «За отвагу» (22.02.1939), «За оборону Сталинграда», «За освобождение Варшавы», «За взятие Берлина», «За победу над Германией в Великой Отечественной войне 1941–1945 гг.» и другими медалями, иностранными орденами.
Примечания:
* Орден имел порядковый № 156.
** Орден имел порядковый № 1118.
*** Орден имел порядковый № 117.