Илья Львович Клявер родился 10 июля 1947 года в Кишинёве в еврейской семье шорника Льва Клявера и домохозяйки Клары, младшим из двух детей.
В 1965—1969 годах учился в Московском государственном училище циркового и эстрадного искусства . Начал творческую деятельность в эстрадном ансамбле «Фортина» (под управлением Олега Мильштейна) при кишинёвском городском Доме молодёжи. В 1969—1971 годах проходил срочную службу в рядах Советской Армии. Работал артистом в Москонцерте, а с 1974 по 1990 годы в Ленконцерте в качестве артиста разговорного жанра.
Работал в дуэте «Казаков и Олейников» (первоначально «Клявер и Казаков») с артистом Романом Казаковым, который был не только его сценическим партнёром, но и лучшим другом. Взял сценический псевдоним «Олейников» (фамилия жены Ирины Олейниковой) после того, как дуэт начал сотрудничать с Владимиром Винокуром (в частности, в эстрадно-пародийной программе «Нет ли лишнего билетика»), по совету последнего.
В 1977 году вместе со своим партнёром по сцене Романом Казаковым становится лауреатом Всесоюзного конкурса артистов эстрады.
После смерти Казакова (1986) выступал с Сергеем Стремлянским, Алексеевым, а с 1990 года — с дуэтом Н. И. Дуксина и В. Н. Агафонникова (программа «Смех и шок»).
Начиная с 1968 года снимался в кино.
В 1993 г. вместе с Юрием Стояновым создали телепередачу "Городок".
В июле 2012 года у Олейникова был обнаружен рак, актёр прошёл курс химиотерапии[7]. В конце октября он был госпитализирован со съёмочной площадки с диагнозом «воспаление лёгких». Спустя некоторое время впал в кому и был подключён к аппарату искусственной вентиляции лёгких. Ситуацию осложняли и серьёзные проблемы с сердцем.
Не приходя в сознание, умер в 4 часа утра 11 ноября 2012 года на 66-м году жизни в медсанчасти г. Санкт-Петербурга.